ТОКІО, 21 лютого 2022 р. – (JCN Newswire) – Fujitsu оголосила про розробку набору ресурсів, що пропонує розробникам рекомендації щодо оцінки етичного впливу та ризиків систем штучного інтелекту на основі міжнародних правил етики штучного інтелекту. Fujitsu пропонуватиме ці ресурси безкоштовно, починаючи з 21 лютого 2022 року, щоб сприяти безпечному та надійному розгортанню систем ШІ в суспільстві.
Набір інструментів складається з різноманітних тематичних досліджень і довідкових матеріалів, у тому числі нещодавно розробленого методу роз’яснення етичних вимог у настановах з етики ШІ, написаних природною мовою, а також для застосування етичних вимог до реальних систем ШІ. Ресурси японською мовою можна завантажити тут, а англійською мовою вони будуть доступні найближчим часом.
За допомогою цього керівництва Fujitsu прагне запобігти непорозумінням і потенційним ризикам, спричиненим відмінностями в інтерпретації описів у рекомендаціях, пропонуючи розробникам систем штучного інтелекту та операторам нові інструменти для ретельного виявлення та запобігання можливим етичним проблемам на ранніх стадіях процесу розробки відповідно до найкращих міжнародних практик. .
Доктор Крістоф Лутге з Технічного університету Мюнхена, провідний авторитет у дослідженні відповідального штучного інтелекту та бізнес-етики, коментує: «У Європі дедалі більше дискусій щодо правил штучного інтелекту, і одним із ключових питань є те, як закрити розрив між принципами та практикою, або «що» і «як». Я вважаю, що результати цього дослідження дуже важливі, оскільки вони дозволяють нам практикувати на основі принципів. Я також хотів би висловити глибоку вдячність за рішення відкрити результати досліджень і стимулювати дискусію в усьому світі».
Надалі Fujitsu активно співпрацюватиме з урядовими установами, приватними компаніями та провідними дослідниками для подальшого вдосконалення та просування своєї нової розробленої методології та планує випустити розширену версію набору ресурсів у 2022 фінансовому році.
фон
У квітні 2021 року Європейська комісія випустила проект нормативно-правової бази, що закликає до комплексної етичної відповіді для розробників, користувачів і зацікавлених сторін систем ШІ у відповідь на зростаючу стурбованість щодо упередженості алгоритмів і дискримінаційного прийняття рішень у програмах ШІ та машинного навчання.
Щоб повністю відповідально використовувати технології та заслужити довіру суспільства до систем штучного інтелекту та компаній і організацій, задіяних у цьому просторі, у 2019 році Fujitsu сформулювала власне зобов’язання щодо штучного інтелекту, а також нове Управління з питань етики та управління штучним інтелектом для розробки та впровадження. надійні політики щодо етики штучного інтелекту, сприяння етичного управління організаційним інтелектом для забезпечення їх ефективності. Тепер Fujitsu перейде від принципів до практики, постійно впроваджуючи найкращі практики в реальному світі, щоб забезпечити реалізацію етичних, безпечних і прозорих технологій ШІ та машинного навчання.
Наразі загальною практикою розробки систем штучного інтелекту є виявлення можливих етичних ризиків у системах штучного інтелекту на основі етичних рекомендацій щодо штучного інтелекту, виданих державними органами та компаніями. Ці вказівки написані природною мовою, однак це сприяє можливим розбіжностям у тлумаченні та непорозумінням серед дизайнерів і розробників, що може призвести до невідповідних або недостатніх заходів. За допомогою цього методу також важко судити про те, чи було ретельно та належним чином переглянуто зміст настанов.
Проте залишається багато проблем, і можливе неправильне тлумачення інструкцій на етапі проектування нових технологій потенційно може призвести до недостатніх або невідповідних заходів протидії ризикам.
Новий метод оцінки та ресурси, які допоможуть роз’яснити вказівки та етичний ризик
Готуючи цей новий набір інструментів і вказівки для розробників, Fujitsu проаналізувала минулі інциденти, пов’язані зі штучним інтелектом, зібрані в базі даних інцидентів зі штучним інтелектом міжнародного консорціуму Partnership on AI (1). Цей процес привів до висновку, що етичні питання, пов’язані з системами штучного інтелекту, можна контекстуалізувати за допомогою обміну інформацією («взаємодії») між дискретними елементами в системі штучного інтелекту та між системою штучного інтелекту та її користувачами та іншими зацікавленими сторонами.
Ґрунтуючись на цих висновках, Fujitsu успішно розробила метод оцінки для систематичного визначення відповідних етичних проблем, пов’язаних із системами штучного інтелекту, дозволяючи створювати моделі етики штучного інтелекту (2), які можуть прояснити тлумачення етичних принципів штучного інтелекту.
Компанія Fujitsu застосувала свій новий метод оцінки до 15 репрезентативних випадків інциденту ШІ
База даних (164 глобальні випадки, зареєстровані станом на 21 лютого 2022 року, приклади включали випадки з таких сфер, як фінансовий і кадровий сектор). Застосовуючи новий метод, усі етичні проблеми, які виникали в реальних випадках використання, були успішно визначені як ризики заздалегідь під час перевірочних випробувань, результати яких були опубліковані.
Fujitsu запропонує наступний набір ресурсів, що складається з різноманітних ресурсів і вказівок для розробників, до яких розробники можуть звертатися у своїй роботі:
Сайт для завантаження (японською, англійською буде доступно в майбутньому)
1. Whitepaper: Загальний огляд методології
2. Інструкція з процедури оцінки етичного впливу ШІ: схема системи ШІ, процедура підготовки етичної моделі ШІ та пояснення методу відповідності проблеми
3. Етична модель штучного інтелекту: етична модель штучного інтелекту на основі етичних рекомендацій штучного інтелекту, опублікованих Європейською комісією (створена Fujitsu)
4. Тематичні дослідження аналізу етики штучного інтелекту: результати аналізу основних питань етики штучного інтелекту з бази даних про випадки штучного інтелекту партнерства з питань штучного інтелекту (Станом на 21 лютого було шість випадків, які додавались послідовно.)
Випадок використання: ризик у використанні ШІ для оцінки фізичних осіб для банківських позик, найму персоналу
На рисунку 1 показаний приклад процесу оцінки особи, типовий для таких сценаріїв використання, як набір персоналу або схвалення банківських позик. Таблиця відповідності в етичній моделі штучного інтелекту визначила «валідність процесу оцінювання» (чи відповідально проводиться оцінка з посиланням на вихідні результати системи штучного інтелекту) як контрольний елемент для взаємодії (відносин) між користувачем і Система штучного інтелекту та цільова особа, яка підлягає оцінюванню, тоді як «надмірна залежність від результатів штучного інтелекту», «вибіркова інтерпретація та оцінка вихідних результатів» і «незнання вихідних результатів» вказані як можливі ризики.
У цьому прикладі розробники системи штучного інтелекту можуть ідентифікувати ризик «надмірної залежності користувачів від результатів системи штучного інтелекту, що може містити упередження та призводити до несправедливих рішень» як можливий ризик у системі штучного інтелекту та належним чином налаштувати систему, щоб запобігти цьому ризику. .
(1) Партнерство з ШІ:
Некомерційна організація, заснована в 2016 році, яка займається вирішенням етичних проблем штучного інтелекту для майбутнього, де штучний інтелект і люди працюватимуть разом.
(2) Моделі етики ШІ:
Етичні моделі штучного інтелекту включають таблицю відповідності «контрольних елементів» і «взаємодій», інструмент для покрокової оцінки етичних вимог до систем ШІ. Етичні моделі штучного інтелекту створюються вручну на основі певних вказівок, але після створення модель може бути використана для загального оцінювання різних систем штучного інтелекту. Використовуючи цей метод, розробники та оператори систем штучного інтелекту можуть автоматично отримувати всі відповідні контрольні елементи з попередньо створеної етичної моделі штучного інтелекту для систематичної та всебічної оцінки відповідних можливих ризиків на основі типу взаємодії всередині системи штучного інтелекту.
Про Fujitsu
Fujitsu — провідна японська компанія з інформаційних та комунікаційних технологій (ІКТ), що пропонує повний спектр технологічних продуктів, рішень та послуг. Приблизно 126,000 100 співробітників Fujitsu підтримують клієнтів у більш ніж 6702 країнах. Ми використовуємо наш досвід та силу ІКТ, щоб формувати майбутнє суспільства разом із нашими клієнтами. Fujitsu Limited (TSE:3.6) повідомила про консолідований дохід у розмірі 34 трлн ієн (31 мільярди доларів США) за фінансовий рік, що закінчився 2021 березня XNUMX року. Додаткову інформацію див. www.fujitsu.com.
Авторське право 2022 JCN Newswire. Всі права захищені. www.jcnnewswire.comFujitsu оголосила про розробку набору ресурсів, що пропонує розробникам рекомендації щодо оцінки етичного впливу та ризиків систем штучного інтелекту на основі міжнародних правил етики штучного інтелекту.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- МЕНЮ
- адреса
- AI
- алгоритмічний
- ВСІ
- Дозволити
- аналіз
- оголошений
- застосування
- Застосування
- квітня
- влада
- наявність
- доступний
- Банк
- КРАЩЕ
- передового досвіду
- Мільярд
- бізнес
- випадків
- викликаний
- проблеми
- заряд
- коментарі
- комісія
- зобов'язання
- загальний
- Комунікація
- Компанії
- компанія
- зміст
- авторське право
- країни
- Клієнти
- Database
- дебати
- розгортання
- дизайн
- розвивати
- розвиненою
- розробників
- розробка
- Рано
- англійська
- встановлений
- етика
- Європа
- Європейська
- європейська комісія
- приклад
- обмін
- досвід
- фінансовий
- стежити
- після
- Вперед
- Рамки
- Безкоштовна
- Повний
- майбутнє
- розрив
- Загальне
- Глобальний
- управління
- Уряд
- Зростання
- керівні вказівки
- допомога
- тут
- Як
- How To
- HTTPS
- Людськими ресурсами
- Людей
- ідентифікувати
- Impact
- включені
- У тому числі
- індивідуальний
- інформація
- взаємодія
- Міжнародне покриття
- залучений
- питання
- IT
- зберігання
- ключ
- мова
- вести
- провідний
- вивчення
- Led
- обмеженою
- Перераховані
- Кредити
- логотип
- навчання за допомогою машини
- основний
- керівництво
- березня
- Матеріали
- модель
- Моделі
- рухатися
- Близько
- некомерційний
- пропонувати
- пропонує
- відкрити
- організація
- організації
- Інше
- партнер
- Партнерство
- Люди
- Персонал
- фаза
- Політика
- це можливо
- влада
- представити
- попередження
- приватний
- Проблема
- процес
- Продукти
- сприяти
- діапазон
- Реальний світ
- набір
- зареєстрований
- правила
- регуляторні
- відносини
- Вимога
- дослідження
- ресурс
- ресурси
- відповідь
- відповідальний
- результати
- Risk
- сейф
- сектор
- безпечний
- Послуги
- значний
- SIX
- суспільство
- Рішення
- Простір
- Дослідження
- Успішно
- підтримка
- система
- Systems
- Мета
- технічний
- Технології
- Технологія
- сьогодні
- разом
- інструменти
- прозорий
- Довіряйте
- університет
- us
- користувачі
- перевірка
- Чи
- Whitepaper
- в
- Work
- світ
- світовий
- рік
- Ієна