Форум моделей Frontier

Форум моделей Frontier

Отметка времени: 26 июля 2023 г., 3:00
Исходный узел: 2185213

Правительства и промышленность согласны с тем, что, хотя ИИ предлагает огромные возможности для пользы всего мира, для снижения рисков необходимы соответствующие меры. Важный вклад в эти усилия уже внесли правительства США и Великобритании, Европейский союз, ОЭСР, G7 (через процесс искусственного интеллекта в Хиросиме) и другие. 

Чтобы развить эти усилия, необходима дальнейшая работа над стандартами безопасности и оценками, чтобы обеспечить ответственное развитие и развертывание передовых моделей ИИ. Форум станет одним из средств для межорганизационных дискуссий и действий по безопасности и ответственности ИИ.  

Форум будет посвящен трем ключевым направлениям в предстоящем году для поддержки безопасной и ответственной разработки передовых моделей искусственного интеллекта:

  • Выявление лучших практик: Содействовать обмену знаниями и передовым опытом между промышленностью, правительствами, гражданским обществом и академическими кругами, уделяя особое внимание стандартам безопасности и методам обеспечения безопасности для снижения широкого спектра потенциальных рисков. 
  • Продвижение исследований безопасности ИИ: Поддержите экосистему безопасности ИИ, определив наиболее важные открытые исследовательские вопросы по безопасности ИИ. Форум будет координировать исследования для продвижения этих усилий в таких областях, как устойчивость к состязаниям, механистическая интерпретируемость, масштабируемый надзор, независимый доступ к исследованиям, эмерджентное поведение и обнаружение аномалий. Первоначально основное внимание будет уделяться разработке и совместному использованию общедоступной библиотеки технических оценок и контрольных показателей для передовых моделей ИИ.
  • Содействие обмену информацией между компаниями и правительствами: Создайте надежные и безопасные механизмы для обмена информацией между компаниями, правительствами и соответствующими заинтересованными сторонами о безопасности и рисках ИИ. Форум будет следовать передовым методам ответственного раскрытия информации в таких областях, как кибербезопасность.


Кент Уокер, президент по международным отношениям Google и Alphabet, сказал: «Мы рады работать вместе с другими ведущими компаниями, обмениваясь техническими знаниями для продвижения ответственных инноваций в области искусственного интеллекта. Нам всем нужно будет работать вместе, чтобы убедиться, что ИИ приносит пользу всем».

Об этом заявил вице-председатель и президент Microsoft Брэд Смит.: «Компании, разрабатывающие технологию искусственного интеллекта, несут ответственность за то, чтобы она была безопасной, защищенной и оставалась под контролем человека. Эта инициатива является жизненно важным шагом для объединения технологического сектора в ответственном развитии ИИ и решении проблем на благо всего человечества».

Анна Маканджу, вице-президент по глобальным вопросам OpenAI, сказала: «Передовые технологии искусственного интеллекта могут принести огромную пользу обществу, и возможность реализовать этот потенциал требует надзора и управления. Крайне важно, чтобы компании, работающие с ИИ, особенно те, которые работают над самыми мощными моделями, выстраивались на общих основаниях и продвигали продуманные и адаптируемые методы обеспечения безопасности, чтобы мощные инструменты ИИ приносили максимально возможную пользу. Это срочная работа, и этот форум имеет хорошие возможности для быстрых действий по улучшению состояния безопасности ИИ». 

Дарио Амодеи, генеральный директор Anthropic сказал: «Anthropic считает, что ИИ может коренным образом изменить то, как устроен мир. Мы рады сотрудничать с промышленностью, гражданским обществом, правительством и академическими кругами, чтобы способствовать безопасному и ответственному развитию технологии. Форум Frontier Model Forum будет играть жизненно важную роль в координации передового опыта и обмене исследованиями в области безопасности передового ИИ».

Отметка времени:

Больше от OpenAI