10 кроків для навчання вашої компанії щодо справедливості щодо штучного інтелекту

Оскільки компанії все частіше застосовують штучний інтелект, вони повинні вирішувати проблеми, пов’язані з довірою.

Ось 10 практичних втручань, які можуть використовувати компанії для забезпечення справедливості ШІ. Вони включають створення AI справедливість статут та впровадження навчання та тестування.

Технології, керовані даними, та штучний інтелект (ШІ) живлять наш світ сьогодні - від прогнозування, де з’явиться наступний варіант COVID-19, до допомоги нам подорожувати найбільш ефективним маршрутом. У багатьох сферах широка громадськість має велику довіру до того, що алгоритми, що забезпечують цей досвід, розробляються справедливо.

Однак цю довіру можна легко порушити. Наприклад, розглянемо вербувальне програмне забезпечення що через нерепрезентативні навчальні дані карає програми, що містять слово «жінки», або систему кредитного підрахунку, яка пропускає реальні докази кредитоспроможності, і, як наслідок, певні групи отримують нижчі кредитні ліміти або їм відмовляють у позиках.

Реальність така, що технологія рухається швидше, ніж освіта та тренінги щодо справедливості ШІ. Люди, які навчають, розробляють, впроваджують та продають цей досвід, керований даними, часто не знають про це наслідки їх напруженої роботи другого чи третього порядку.

В рамках Всесвітнього економічного форуму Рада глобального майбутнього з питань штучного інтелекту для людства, колектив практиків ШІ, дослідників та корпоративних радників, ми пропонуємо 10 практичних втручань компаніям для забезпечення справедливості ШІ.

1. Призначити відповідальність за освіту ШІ

Призначити головного співробітника з питань етики ШІ (CAIO), який разом із міжфункціональною комісією з питань етики (включаючи представників з питань даних, законодавства, зв’язків з громадськістю, комунікацій та управління персоналом) повинен відповідати за розробку та впровадження освітніх заходів зі штучного інтелекту. CAIO також повинен бути "омбудсменом", до якого співробітники можуть звертатися у випадку сумлінності, а також представником нетехнічного персоналу. В ідеалі ця роль повинна підпорядковуватися безпосередньо генеральному директору для ознайомлення та впровадження.

2. Визначте справедливість для вашої організації

Розробіть шаблон статуту справедливості ШІ, а потім запитайте усі відділи які активно використовують ШІ для його завершення у своєму контексті. Це особливо актуально для керівників підприємств та власників продуктів та послуг.

3. Забезпечте справедливість ШІ по ланцюжку поставок

Вимагайте від постачальників, яких ви використовуєте, і які вбудовують ШІ у свої закуплені продукти та послуги - наприклад, кадрове агентство, яке може використовувати ШІ для відбору кандидатів, - також заповнити Хартію справедливості ШІ та дотримуватися політики компанії щодо справедливості ШІ. Це особливо актуально для функції закупівель та для постачальників.

4. Навчіть персонал та зацікавлені сторони шляхом навчання та підходу "вчитися на практиці"

Вимагати обов’язкового навчання та сертифікації для всіх працівників щодо принципів справедливості ШІ - подібно до того, як персонал повинен підписувати кодекси ділової поведінки. Для технічного персоналу проведіть навчання щодо побудови моделей, які не порушують принципів справедливості. Усі тренінги повинні використовувати висновки зі статутів справедливості щодо штучного інтелекту для безпосереднього вирішення питань, що стоять перед компанією. Забезпечте регулярний перегляд змісту курсу комісією з питань етики.

5. Створіть HR AI чесний план людей

План справедливості щодо штучного інтелекту у сфері людських ресурсів повинен включати щорічний огляд HR, щоб оцінити різноманітність команди, яка працює над технологіями та ШІ, керованими даними, а також чіткий огляд та вдосконалення компетенцій та навичок, які в даний час рекламуються для розробки ключових продуктів, що мають відношення до штучного інтелекту. ролі (наприклад, власник продукту, науковець даних та інженер даних) для забезпечення поінформованості про справедливість є частиною опису роботи.

6. Перевірте справедливість ШІ перед будь-якими технологічними запусками

Вимагати від підрозділів та постачальників проведення та внутрішнього оприлюднення тестів на результати справедливості, перш ніж будь-який алгоритм ШІ може працювати. Дізнавшись, з якими групами може бути несправедливо поведено через упередження даних, змоделюйте користувачів із цієї групи та контролюйте результати. Це може бути використано товарними групами для повторення та вдосконалення свого продукту чи послуги, перш ніж вони з’являться. Інструменти з відкритим кодом, такі як Microsoft Fairlearn, може допомогти забезпечити аналіз для тесту на справедливість результатів.

7. Розкажіть про свій підхід до справедливості щодо штучного інтелекту

Налаштуйте навчальні сесії щодо результатів чесності із залученням клієнтів та громадськості, щоб пройти тести на результати справедливості для будь-якого нового або оновленого продукту чи послуги. Це особливо актуально для маркетингу та зовнішніх комунікацій, а також для служб обслуговування клієнтів.

8. Присвятіть постійний пункт на засіданнях правління процесам справедливості ШІ

Ця дискусія повинна включати звіти про прогрес та дотримання, теми, підняті головним службовцем з питань етики та комітету з питань етики, а також результати першочергових тестів на результати справедливості

9. Переконайтесь, що освіта тримається

Регулярно відстежуйте та повідомляйте про участь та завершення діяльності щодо доброчесності ШІ, разом із продемонстрованим впливом управління справедливістю з точки зору реальної вартості бізнесу. Надайте ці оновлення керівникам підрозділів та прямим керівникам для спілкування з персоналом, щоб підсилити, що завдяки зростанню платформ ШІ та програмного забезпечення більш справедливими організація стає більш ефективною та продуктивною.

10. Документуйте все

Документуйте свій підхід до справедливості щодо штучного інтелекту та повідомляйте про це на тренінгах для персоналу та постачальників та гучних заходах, зокрема для клієнтів та інвесторів.

[Ця історія спочатку з’явилася на 10 кроків, щоб навчити свою компанію щодо справедливості щодо штучного інтелекту | Світовий економічний форум (weforum.org). Авторське право 2021.]

Надія Юсіф є керуючим директором та партнером в Бостонська консалтингова група та співпрацює з практикою фінансових установ у Великобританії, Нідерландах та Бельгії.

Марк Міневич є кафедрою політики щодо штучного інтелекту в Міжнародному дослідницькому центрі з питань штучного інтелекту під егідою ЮНЕСКО, Інститут Йозефа Стефана.