Відповідальний ШІ дасть вам конкурентну перевагу

Немає сумнівів у тому, що ШІ змінює бізнес-ландшафт і надає конкурентні переваги тим, хто його використовує. Однак настав час вийти за межі простого впровадження штучного інтелекту та переконатися, що штучний інтелект виконується безпечним і етичним способом. Це називається відповідальний ШІ і слугуватиме не лише захистом від негативних наслідків, а й сама по собі конкурентною перевагою.

Що таке відповідальний ШІ?

Відповідальний штучний інтелект – це структура управління, яка охоплює питання етики, законодавства, безпеки, конфіденційності та підзвітності. Хоча впровадження відповідального штучного інтелекту залежить від компанії, його необхідність очевидна. Без відповідальних практик ШІ компанія наражається на серйозні фінансові, репутаційні та юридичні ризики. Позитивним є те, що відповідальна практика штучного інтелекту стає передумовою навіть для участі в торгах за певними контрактами, особливо коли залучаються уряди; добре реалізована стратегія значно допоможе виграти ці ставки. Крім того, застосування відповідального штучного інтелекту може сприяти підвищенню репутації компанії в цілому.

Значення за дизайном

Значна частина проблеми впровадження відповідального ШІ зводиться до передбачення. Це передбачення — це здатність передбачити, які етичні чи правові проблеми можуть виникнути у системи штучного інтелекту під час її життєвого циклу розробки та розгортання. Наразі більшість відповідальних міркувань щодо штучного інтелекту виникають після розробки продукту ШІ — дуже неефективний спосіб впровадження ШІ. Якщо ви хочете захистити свою компанію від фінансових, юридичних і репутаційних ризиків, ви повинні починати проекти з урахуванням відповідального ШІ. Ваша компанія повинна мати цінності за задумом, а не за тим, що ви отримаєте в кінці проекту.

Впровадження цінностей за проектом

Відповідальний штучний інтелект охоплює велику кількість цінностей, які мають бути пріоритетними керівництву компанії. Хоча охоплення всіх сфер є важливим у будь-якому відповідальному плані штучного інтелекту, кількість зусиль, які ваша компанія витрачає на кожну цінність, залежить від керівників компанії. Має бути баланс між перевіркою відповідального штучного інтелекту та фактичним впровадженням штучного інтелекту. Якщо ви витрачаєте надто багато зусиль на відповідальний ШІ, ваша ефективність може  постраждати. З іншого боку, ігнорування відповідального штучного інтелекту означає необачне ставлення до ресурсів компанії. Найкращий  спосіб подолати цей компроміс — розпочати з ретельного аналізу на початку проекту, а не  як зусиль після факту.

Найкраща практика – створити відповідальний комітет ШІ для перегляду ваших проектів ШІ перед їх початком, періодично під час проектів і після завершення. Метою цього комітету є оцінка проекту щодо відповідальних цінностей штучного інтелекту та схвалення, несхвалення або несхвалення дій для приведення проекту у відповідність. Це може включати запит на отримання додаткової інформації або речі, які потрібно кардинально змінити. Подібно до інституційної ревізійної ради, яка використовується для моніторингу етики в біомедичних дослідженнях, до складу цього комітету мають входити як експерти зі штучного інтелекту, так і нетехнічні члени. Члени, які не мають технічних знань, можуть бути представниками будь-якого рівня та перевіряти експертів зі штучного інтелекту. Експерти зі штучного інтелекту, з іншого боку, можуть краще розуміти труднощі та можливі шляхи їх виправлення, але можуть надто звикнути до інституційних та галузевих норм, які можуть бути недостатньо чутливими до проблем широкої спільноти. Цей комітет слід скликати на початку проекту,  періодично протягом проекту та в кінці проекту для остаточного затвердження.

Які цінності повинен враховувати відповідальний комітет з штучного інтелекту?

Цінності, на яких слід зосередитися, мають розглядатися бізнесом, щоб відповідати його загальній заяві про місію. Ваш бізнес, імовірно, вибере конкретні цінності, на яких потрібно наголошувати, але слід охопити всі основні проблемні сфери. Є багато фреймворків, які ви можете використовувати для натхнення, наприклад Google, та Facebook в. Однак у цій статті ми базуватимемо обговорення на рекомендаціях, викладених Групою експертів високого рівня зі штучного  інтелекту, створеною Європейською комісією в Оцінювальному списку для надійного штучного інтелекту. Ці рекомендації включають сім напрямків. Ми вивчимо кожну область і запропонуємо запитання щодо кожної з них.

1. Людське агентство та нагляд

Проекти штучного інтелекту повинні поважати свободу волі людини та прийняття рішень. Цей принцип передбачає, як проект штучного інтелекту впливатиме або підтримуватиме людей у ​​процесі прийняття рішень. Це також стосується того, як суб’єкти штучного інтелекту дізнаються про ШІ та довірятимуть його результатам. Деякі запитання, які потрібно задати, включають:

• Чи усвідомлюють користувачів, що рішення або результат є результатом проекту ШІ?
• Чи існує механізм виявлення та реагування на несприятливі наслідки проекту ШІ?

2. Технічна міцність і безпека

Технічна надійність і безпека вимагають, щоб проекти штучного інтелекту завчасно вирішували проблеми, пов’язані з ризиками, пов’язаними з ненадійною роботою штучного інтелекту, і мінімізували такий вплив. Результати проекту штучного інтелекту повинні включати здатність штучного інтелекту працювати передбачувано та послідовно, а також він повинен охоплювати потреби штучного інтелекту бути захищеним від проблем кібербезпеки. Деякі запитання, які потрібно поставити, включають:

• Чи тестували систему ШІ експерти з кібербезпеки?
• Чи існує процес моніторингу для вимірювання та доступу до ризиків, пов’язаних із проектом ШІ?

3. Конфіденційність і управління даними

ШІ повинен захищати індивідуальну та групову конфіденційність як у своїх вхідних даних, так і на вихідних даних. Алгоритм не повинен включати дані, які були зібрані таким чином, що порушує конфіденційність, і він не повинен давати результати, які порушують конфіденційність суб’єктів, навіть якщо зловмисники намагаються змусити такі помилки. Для того, щоб зробити це ефективно, управління даними також повинно бути проблемою. Відповідні запитання включають:

• Чи використовуються дані навчання чи висновків захищені персональні дані?
• Чи можна порівняти результати цього проекту штучного інтелекту із зовнішніми даними таким чином, щоб порушити конфіденційність особи?

4. Прозорість

Прозорість охоплює проблеми щодо відстеження окремих результатів і загальної пояснюваності алгоритмів ШІ. Відстежуваність дозволяє користувачеві зрозуміти, чому було прийнято окреме рішення. Зрозумілість означає, що користувач може зрозуміти основи алгоритму, який використовувався для прийняття рішення. Це також стосується здатності користувача розуміти, які фактори беруть участь у процесі прийняття рішень для його конкретного прогнозу. Запитання:

• Чи контролюєте та записуєте якість вхідних даних?
• Чи може користувач отримати відгук про те, як було прийнято певне рішення та що він міг зробити, щоб змінити це рішення?

5. Різноманітність, відсутність дискримінації

Щоб вважатися відповідальним штучним інтелектом, проект штучного інтелекту має якомога краще працювати для всіх підгруп людей. Поки Упередження ШІ рідко можна повністю усунути, ним можна ефективно керувати. Це пом’якшення може відбуватися під час процесу збору даних, щоб включити в навчальний набір даних більш різноманітне походження людей, а також може використовуватися під час висновку, щоб допомогти збалансувати точність між різними групами людей. Поширені запитання включають:

• Чи максимально збалансували ваш набір навчальних даних, щоб включити різні підгрупи людей?
• Ви визначаєте справедливість, а потім кількісно оцінюєте результати?

6. Соціальне та екологічне благополуччя

Проект штучного інтелекту слід оцінювати з точки зору його впливу на суб’єктів і користувачів, а також його впливу на навколишнє середовище. Слід підтримувати такі соціальні норми, як демократичне прийняття рішень, дотримання цінностей і запобігання звикання до проектів ШІ. Крім того, слід враховувати результати рішень проекту ШІ щодо навколишнього середовища, де це можливо. Одним із факторів, застосовних майже у всіх випадках, є оцінка кількості енергії, необхідної для навчання необхідних моделей. Питання, які можна задати:

• Чи оцінили ви вплив проекту на його користувачів і суб’єктів, а також на інших зацікавлених сторін?
• Скільки енергії потрібно для навчання моделі та який внесок це вносить у викиди вуглецю?

7 Підзвітність

Певна особа чи організація повинна нести відповідальність за дії та рішення, прийняті в рамках проекту штучного інтелекту або під час розробки. Повинна існувати система, яка б забезпечувала адекватну можливість відшкодування у випадках, коли прийняті шкідливі рішення. Також слід приділити деякий час і увагу управлінню ризиками та пом’якшенню. Відповідні запитання включають:

• Чи може третя сторона перевіряти систему ШІ на наявність ризиків?
• Які основні ризики пов’язані з проектом ШІ та як їх можна пом’якшити?

В нижньому рядку

Сім цінностей відповідального ШІ, наведених вище, є відправною точкою для ініціативи відповідального ШІ організації. Організації, які обирають відповідальний штучний інтелект, побачать, що вони отримають доступ до нових можливостей, таких як тендери на державні контракти. Організації, які не впроваджують ці практики, наражаються на юридичні, етичні та репутаційні ризики.

Девід Еллісон є старшим спеціалістом із обробки даних зі штучного інтелекту Lenovo.

Джерело: https://venturebeat.com/2022/01/15/responsible-ai-will-give-you-a-competitive-advantage/