ТОКИО, 21 февраля 2022 г. – (JCN Newswire) – Сегодня компания Fujitsu объявила о разработке набора ресурсов, предлагающего разработчикам рекомендации по оценке этического воздействия и рисков систем искусственного интеллекта на основе международных руководящих принципов этики искусственного интеллекта. Fujitsu будет предлагать эти ресурсы бесплатно, начиная с 21 февраля 2022 года, чтобы способствовать безопасному и надежному развертыванию систем искусственного интеллекта в обществе.
Инструментарий состоит из различных тематических исследований и справочных материалов, включая недавно разработанный метод разъяснения этических требований в руководствах по этике ИИ, написанных на естественном языке, а также применения этических требований к реальным системам ИИ. Ресурсы на японском языке можно скачать здесь, а в ближайшем будущем они появятся и на английском языке.
С помощью этого руководства Fujitsu стремится предотвратить недопонимание и потенциальные риски, вызванные различиями в интерпретации описаний в руководствах, предлагая разработчикам и операторам систем искусственного интеллекта новые инструменты для тщательного выявления и предотвращения возможных этических проблем на ранних этапах процесса разработки в соответствии с передовой международной практикой. .
Доктор Кристоф Лютге из Технического университета Мюнхена, ведущий специалист в области исследований ответственного ИИ и деловой этики, комментирует: «В Европе усиливаются дебаты о регулировании ИИ, и один из ключевых вопросов — как закрыть разрыв между принципами и практикой, или «что» и «как». Я считаю, что результаты этого исследования очень важны, поскольку они позволяют нам практиковать, основываясь на принципах. Я также хотел бы выразить свою глубокую признательность за решение открыть результаты исследований и стимулировать обсуждение во всем мире».
В дальнейшем Fujitsu будет активно сотрудничать с государственными учреждениями, частными компаниями и ведущими исследователями для дальнейшего совершенствования и продвижения своей недавно разработанной методологии и планирует выпустить расширенную версию набора ресурсов в 2022 финансовом году.
проверка данных
В апреле 2021 года Европейская комиссия опубликовала проект нормативной базы, призывающий к комплексному этическому реагированию для разработчиков, пользователей и заинтересованных сторон систем ИИ в ответ на растущую обеспокоенность по поводу алгоритмической предвзятости и дискриминационного принятия решений в приложениях ИИ и машинного обучения.
Чтобы полностью взять на себя ответственность за использование технологий и заслужить доверие общества к системам искусственного интеллекта, а также к компаниям и организациям, участвующим в этой сфере, компания Fujitsu в 2019 году сформулировала собственное обязательство по развитию искусственного интеллекта, а также создала новое Управление по этике и управлению ИИ, которое будет разрабатывать и обеспечивать соблюдение требований. надежная политика в области этики ИИ, содействие этическому управлению ИИ в организациях для обеспечения их эффективности. Теперь Fujitsu перейдет от принципов к практике, последовательно внедряя лучшие практики в реальный мир, чтобы обеспечить реализацию этических, безопасных и прозрачных технологий искусственного интеллекта и машинного обучения.
В настоящее время при разработке систем ИИ обычной практикой является выявление возможных этических рисков в системах ИИ на основе руководящих принципов этики ИИ, выпущенных государственными органами и компаниями. Однако эти рекомендации написаны на естественном языке, что способствует возможным различиям в интерпретации и недоразумениям среди дизайнеров и разработчиков, что может привести к принятию ненадлежащих или недостаточных мер. При использовании этого метода также трудно судить о том, было ли содержание руководящих принципов тщательно и надлежащим образом проверено.
Однако многие проблемы остаются, и возможное неправильное толкование руководящих принципов на этапе разработки новых технологий потенциально может привести к недостаточным или ненадлежащим мерам по противодействию риску.
Новый метод оценки и ресурсы, которые помогут разъяснить рекомендации и этические риски.
При подготовке этого нового инструментария и руководства для разработчиков компания Fujitsu провела анализ прошлых инцидентов, связанных с ИИ, собранных в базе данных инцидентов ИИ международного консорциума Partnership on AI (1). Этот процесс привел к выводу, что этические проблемы, связанные с системами ИИ, могут быть контекстуализированы с помощью обмена информацией («взаимодействия») между дискретными элементами внутри системы ИИ, а также между системой ИИ, ее пользователями и другими заинтересованными сторонами.
Основываясь на этих выводах, Fujitsu успешно разработала метод оценки для систематического выявления соответствующих этических проблем, связанных с системами ИИ, что позволяет создавать модели этики ИИ (2), которые способны прояснить интерпретацию руководящих принципов этики ИИ.
Fujitsu применила свой новый метод оценки к 15 репрезентативным случаям инцидента с искусственным интеллектом.
База данных (164 глобальных случая зарегистрировано по состоянию на 21 февраля 2022 г., примеры включали случаи из таких областей, как финансовый и кадровый сектор). Применяя новый метод, все этические проблемы, возникшие в реальных случаях использования, были успешно идентифицированы как риски заранее в ходе проверочных испытаний, результаты которых были опубликованы.
Fujitsu предложит следующий набор инструментов, состоящий из различных ресурсов и руководств, которые разработчики смогут использовать в своей работе:
Сайт загрузки (на японском языке, английский будет доступен в будущем)
1. Технический документ: общий обзор методологии.
2. Руководство по процедуре оценки этического воздействия ИИ: схема системы ИИ, процедура подготовки этической модели ИИ и объяснение метода соответствия проблем.
3. Этическая модель ИИ. Этическая модель ИИ, основанная на этических принципах ИИ, опубликованных Европейской комиссией (созданных Fujitsu).
4. Тематические исследования по анализу этики ИИ: результаты анализа основных проблем этики ИИ из базы данных партнерства по ИИ инцидентов с ИИ (по состоянию на 21 февраля было шесть случаев, которые были добавлены последовательно).
Вариант использования: риск использования ИИ для оценки физических лиц при получении банковских кредитов, подборе персонала.
На рисунке 1 показан пример процесса оценки отдельных типичных сценариев использования, таких как набор персонала или одобрение банковских кредитов. Таблица соответствия в модели этики ИИ определила «валидность процесса оценки» (проводится ли оценка ответственно со ссылкой на выходные результаты системы ИИ) как элемент проверки взаимодействия (отношений) между пользователем системы ИИ. Система искусственного интеллекта и целевой человек, подлежащий оценке, тогда как «чрезмерная зависимость от результатов искусственного интеллекта», «выборочная интерпретация и оценка выходных результатов» и «игнорирование выходных результатов» перечислены в качестве возможных рисков.
В этом примере разработчики системы ИИ могут определить риск «чрезмерной зависимости пользователей от результатов системы ИИ, которые могут содержать предвзятость и привести к несправедливым решениям» как возможный риск в системе ИИ и соответствующим образом настроить систему для предотвращения этого риска. .
(1) Партнерство в области ИИ:
Некоммерческая организация, созданная в 2016 году и занимающаяся решением этических проблем ИИ во имя будущего, в котором ИИ и люди будут работать вместе.
(2) Модели этики ИИ:
Модели этики ИИ включают таблицу соответствия «элементов проверки» и «взаимодействий», инструмент для пошаговой оценки этических требований к системам ИИ. Этические модели ИИ создаются вручную на основе конкретного руководства, но после создания модель можно использовать в целом для оценки различных систем ИИ. Используя этот метод, разработчики и операторы систем ИИ могут автоматически извлекать все соответствующие элементы проверки из ранее созданной модели этики ИИ для систематической и всесторонней оценки соответствующих возможных рисков на основе типа взаимодействия внутри системы ИИ.
О Fujitsu
Fujitsu - ведущая японская компания в области информационных и коммуникационных технологий (ИКТ), предлагающая полный спектр технологических продуктов, решений и услуг. Около 126,000 100 сотрудников Fujitsu поддерживают клиентов в более чем 6702 странах. Мы используем наш опыт и возможности ИКТ, чтобы вместе с нашими клиентами формировать будущее общества. Fujitsu Limited (TSE: 3.6) сообщила о консолидированной выручке в размере 34 трлн иен (31 млрд долларов США) за финансовый год, закончившийся 2021 марта XNUMX г. Для получения дополнительной информации см. www.fujitsu.com.
Авторские права принадлежат JCN Newswire, 2022. Все права защищены. www.jcnnewswire.com Сегодня компания Fujitsu объявила о разработке набора ресурсов, предлагающего разработчикам рекомендации по оценке этического воздействия и рисков систем искусственного интеллекта на основе международных руководящих принципов этики искусственного интеллекта.
- 000
- 100
- 2016
- 2019
- 2021
- 2022
- О нас
- адрес
- AI
- алгоритмический
- Все
- Позволяющий
- анализ
- объявило
- Приложения
- Применение
- апрель
- власть
- свободных мест
- доступен
- Банка
- ЛУЧШЕЕ
- лучшие практики
- миллиард
- бизнес
- случаев
- вызванный
- проблемы
- заряд
- Комментарии
- комиссии
- обязательство
- Общий
- Связь
- Компании
- Компания
- содержание
- авторское право
- страны
- Клиенты
- База данных
- дебаты
- развертывание
- Проект
- развивать
- развитый
- застройщиков
- Развитие
- Рано
- Английский
- установленный
- этика
- Европе
- Европейская кухня
- Европейская комиссия
- пример
- обмена
- опыт
- финансовый
- следовать
- после
- вперед
- Рамки
- Бесплатно
- полный
- будущее
- разрыв
- Общие
- Глобальный
- управление
- Правительство
- Рост
- методические рекомендации
- помощь
- здесь
- Как
- How To
- HTTPS
- Набор персонала
- Людей
- определения
- Влияние
- включены
- В том числе
- individual
- информация
- взаимодействие
- Мультиязычность
- вовлеченный
- вопросы
- IT
- хранение
- Основные
- язык
- вести
- ведущий
- изучение
- привело
- Ограниченный
- Включенный в список
- Кредиты
- логотип
- обучение с помощью машины
- основной
- руководство
- Март
- материалы
- модель
- Модели
- двигаться
- Возле
- некоммерческий
- предлагают
- предлагающий
- открытый
- организация
- организации
- Другое
- партнер
- Партнерство
- Люди
- Персонал
- фаза
- сборах
- возможное
- мощностью
- представить
- предупреждение
- частная
- Проблема
- процесс
- Продукция
- продвижении
- ассортимент
- реальный мир
- набор
- зарегистрированный
- правила
- регуляторы
- отношения
- Требования
- исследованиям
- ресурс
- Полезные ресурсы
- ответ
- ответственный
- Итоги
- Снижение
- безопасный
- сектор
- безопасный
- Услуги
- значительный
- ШЕСТЬ
- Общество
- Решения
- Space
- исследования
- Успешно
- поддержка
- система
- системы
- цель
- Технический
- технологии
- Технологии
- сегодня
- вместе
- инструменты
- прозрачный
- Доверие
- Университет
- us
- пользователей
- проверка
- будь то
- Руководство пользователя
- в
- Работа
- Мир
- по всему миру
- год
- Иена