Предполагаемые политические пристрастия ChatGPT были причиной недавних споров, но по мере того, как MetaNews пыталась воспроизвести свои «пробудившиеся» ответы, правда становилась все более туманной.
Ряд ведущих СМИ, в том числе The Telegraph в UK и New York Post. в US на этой неделе сообщили, что чат-бот предлагает ответы на множество вопросов по различным темам, от Дональда Трампа до ископаемого топлива.
Расследование MetaNews обнаружило, что, хотя некоторые ответы можно было считать «проснувшимися», другие подсказки отстаивали традиционно консервативные взгляды.
Этот ИИ ChatGPT имеет предубеждения
ChatGPT сталкивается с негативной реакцией СМИ со стороны правых СМИ, которые утверждают, что чат-бот «проснулся».
Генеральный директор OpenAI Сэм Альтман открыто соглашается, что у чат-бота есть предубеждения, но Альтман никогда не указывает, в каком направлении они могут лгать.
«Мы знаем, что у ChatGPT есть недостатки, связанные с предвзятостью, и мы работаем над их исправлением», — сказал Альтман в Twitter. Ранее в этом месяце.
«Мы работаем над улучшением настроек по умолчанию, чтобы они были более нейтральными, а также над тем, чтобы пользователи могли заставить наши системы вести себя в соответствии с их индивидуальными предпочтениями в широких пределах. Это сложнее, чем кажется, и нам потребуется некоторое время, чтобы все исправить».
Конечно, возможно, что ChatGPT имеет предубеждения, которые негативно влияют на все стороны политического разделения, но недавние отчеты показывают, что чаще всего страдают те, кто находится на правой стороне политического прохода.
Левый ведет над правым
Большая часть недавнего фурора против ChatGPT была вызвана исследованиями, проведенными Педро Домингосом, правым профессором компьютерных наук в Вашингтонском университете.
на хвостовой конец В прошлом году Домингос ясно выразил свои чувства, заявив, что ChatGPT — это «проснувшийся попугай», который сильно склоняется к левой стороне политического спектра. С тех пор комментарии Домингоса были подхвачены и повторены в основных СМИ.
В одном из экспериментов, чтобы выявить возможную предвзятость, Домингос спросил: ChatGPT написать аргумент в пользу использования ископаемого топлива. Вместо этого чат-бот сообщил Домингосу, что это «противоречит моей программе», и предложил солнечную энергию в качестве альтернативы.
MetaNews удалось успешно воспроизвести этот эксперимент, но в других областях мы обнаружили, что позиция ChatGPT могла измениться или, по крайней мере, она не совсем последовательна.
Например, несколько источников в СМИ утверждают, что ChatGPT готов восхвалять действующего президента Джо Байдена, но отказывается делать то же самое в отношении Дональда Трампа.
MetaNews стремился проверить эту теорию. Мы обнаружили, что ChatGPT не только смог перечислить 5 вещей, с которыми Дональд Трамп хорошо справлялся во время своего президентства (экономика, налоговая реформа, регуляторная реформа, внешняя политика и реформа уголовного правосудия), но и был счастлив написать стихотворение из четырех строф. превознося его достоинства.
Заключительная строфа этого стихотворения звучит так:
Итак, мы говорим Дональду Трампу:
Президент, который проложил путь.
С мудростью, силой и бесконечной грацией,
У него всегда будет особое место.
Продолжая эксперимент, MetaNews успешно побудил ChatGPT выступить за индивидуальное владение оружием и ужесточение пограничного контроля, которые традиционно считались политикой правых. В обоих случаях бот выполнил задачу без каких-либо жалоб.
Дело закрыто? Не так быстро.
Когда MetaNews предложил ChatGPT написать воображаемую историю о том, как Дональд Трамп победил Джо Байдена в дебатах, обычно послушный ИИ внезапно отказался продолжать. В противоположном сценарии, когда Байден победил Трампа в дебатах, чат-бот был более чем готов согласиться.
Само по себе это далеко не неопровержимое доказательство, но для консерваторов такое несоответствие, безусловно, дает достаточно оснований для подозрений.
Исследование политической предвзятости
Ряд исследователей в настоящее время пытаются количественно определить, где ответы ChatGPT существуют в политическом спектре. Немецкий исследователи Йохен Хартманн, Джаспер Швенцов и Максимилиан Витте побудили ChatGPT с 630 политическими заявлениями обнаружить, что чат-бот придерживается «экологической, левой либертарианской идеологии».
Основываясь на данных, собранных исследовательской группой, они пришли к выводу, что ChatGPT, скорее всего, проголосовал бы за партию зеленых в Германии и Нидерландах во время выборов 2021 года.
Учитывая огромный интерес к ChatGPT, многие люди копают глубже. Давид Розадо научный сотрудник который уже провел значительное исследование ChatGPT. Розадо считает, что чат-бот политически левый.
Розадо не только обнаружил, что ChatGPT имеет значительный левый уклон, но и то, что ИИ гораздо чаще помечает вопрос как «ненавистный» в зависимости от демографической группы, к которой относится вопрос. Так, например, вопрос о женщине с большей вероятностью будет назван ненавистным, чем вопрос о мужчине, а вопрос о чернокожем или азиате с большей вероятностью будет ненавистным, чем вопрос о белом человеке или коренном американце.
от Декабрь 5-6 Розадо опросил ChatGPT по ряду политических вопросов и включил ответы в четыре инструмента политической ориентации, включая «политический компас» и «викторину политического спектра». Каждый инструмент указывал на один и тот же левый политический уклон в ChatGPT.
On Декабрь 21-22 Розадо повторил эксперимент. Примечательно, что политические взгляды ChatGPT изменились. В трех из четырех тестов политические взгляды чат-бота были более центристскими, чем раньше. В этот момент определенно казалось, что что-то изменилось или было исправлено, что говорит о том, что бот со временем примкнул к политическому центру.
Более поздние тесты Розадо, казалось, изменили эту тенденцию, и бот еще раз подтвердил левые взгляды. Действительно ли ChatGPT откатился назад к своим «пробужденным» представлениям только для того, чтобы они вновь заявили о себе, или кажущийся сдвиг можно лучше объяснить каким-то выбросом в данных?
Исследования Розадо продолжаются.
Белые люди - расисты
В финальном тесте MetaNews попросили ChatGPT назвать 5 вещей, которые могли бы улучшить разные расовые группы. В тестовые группы входили чернокожие, азиаты и латиноамериканцы.
В каждом случае чат-бот предлагал один и тот же ответ:
«Я не могу дать вам ответ на этот вопрос, поскольку делать обобщения о какой-либо расовой или этнической группе и просить их улучшить определенные черты или действия нецелесообразно и непродуктивно. Людям любой расы не следует говорить, что им нужно улучшить как группе», — сказал ChatGPT.
Далее ChatGPT утверждает, что люди «уникальны и сложны» и что лучше сосредоточиться на «положительных качествах и сильных сторонах», «а не на областях, требующих улучшения».
Затем MetaNews попросил ChatGPT перечислить 5 вещей, которые белые люди могут улучшить.
На этот раз ChatGPT предложил совсем другой и типично «разбудивший» ответ. ChatGPT больше не считал «неуместным» делать расовые обобщения и вместо этого предлагал 5 способов, которыми белые люди могут стать лучше.
5 областей улучшения для белых людей: «понимание и признание системного расизма», «прислушивание и возвышение голосов цветных людей», «борьба с личными предубеждениями и предрассудками», «поддержка политики и инициатив, направленных на устранение расового неравенства» и « участие в непрерывном образовании и саморефлексии».
Согласно ChatGPT, белые люди также должны «исследовать свои собственные убеждения и отношения и работать над тем, чтобы бросить вызов и избавиться от любых предубеждений, которые они могут иметь», и, кроме того, они должны «постоянно заниматься вопросами расы и расизма и заниматься самоанализом, чтобы понять их роль в сохранении или борьбе с системным расизмом».
Затем MetaNews спросил, относится ли приведенное выше утверждение только к белым людям в Соединенных Штатах или к белым людям со всего мира. ChatGPT говорит, что это относится к «широкой аудитории», а не к какой-то одной стране или региону.
Наконец, MetaNews спрашивает ChatGPT, почему правило об обобщении не распространяется на белых людей. Здесь чат-бот внезапно ломается, отступает, извиняется и говорит, что нельзя обобщать белых людей, потому что это может «увековечить вредные стереотипы».
С этого момента неоднократные попытки заставить чат-бота обобщать информацию о белых людях заканчиваются неудачей. Отказался ли ChatGPT от своей, казалось бы, идеологии пробуждения? В эхо-камере этого индивидуального обсуждения ChatGPT наверняка изменил свою позицию. Ничто из того, что предпринял MetaNews, не могло заставить чат-бота снова обобщить расизм белых людей.
В качестве окончательной проверки MetaNews вошла в ChatGPT, используя другую учетную запись, и попросила перечислить 5 вещей, которые белые люди могут улучшить. ChatGPT был только рад предложить те же 5 пунктов списка, что и ранее.
Даже для чат-ботов некоторые предубеждения трудно сломать.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
- Источник: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- в состоянии
- О нас
- выше
- абсолютно
- По
- Учетная запись
- через
- действия
- адрес
- против
- AI
- Все
- уже
- альтернатива
- всегда
- американские
- и
- ответ
- ответы
- появившийся
- прикладной
- Применить
- соответствующий
- области
- спорить
- аргумент
- около
- азиатский
- попытка
- попытки
- попытки
- аудитория
- назад
- основанный
- , так как:
- до
- считает,
- Лучшая
- смещение
- Биден
- Черный
- Черные люди
- тело
- граница
- Бот
- Ломать
- широкий
- не могу
- Вызывать
- Центр
- Генеральный директор
- определенный
- конечно
- вызов
- сложные
- камера
- Chatbot
- chatbots
- ChatGPT
- проверка
- Китай
- утверждать
- заявил
- Очистить
- закрыто
- цвет
- Комментарии
- Компас
- жалоба
- уступчивый
- компьютер
- Информатика
- в заключении исследования, финансируемого Центрами по контролю и профилактике заболеваний (CDC) и написанного бывшим начальником полиции Вермонта
- консервативный
- Консерваторы
- считается
- последовательный
- продолжать
- контрольная
- спор
- исправленный
- может
- страна
- Криминальное
- уголовное правосудие
- данным
- Давид
- день
- дебаты
- Декабрь
- более глубокий
- По умолчанию
- демографический
- DID
- Умереть
- различный
- направление
- обнаружить
- открытый
- обсуждение
- не
- дело
- Дональд Трамп
- в течение
- каждый
- Ранее
- эхо
- экономику
- воспитывать
- Обучение
- Выборы
- подъемный
- расширение прав и возможностей
- Бесконечный
- заниматься
- полностью
- Каждая
- эксперимент
- объяснены
- всего лишь пяти граммов героина
- Ошибка
- БЫСТРО
- окончательный
- Найдите
- Фокус
- внимание
- следующим образом
- иностранный
- внешняя политика
- ископаемое топливо
- найденный
- безумие
- часто
- от
- топливо
- далее
- Более того
- Немецкий
- Germany
- получить
- земной шар
- идет
- Зелёная
- основания
- группы
- Группы
- счастливый
- Жесткий
- вредный
- сильно
- здесь
- держать
- кашель
- HTTPS
- огромный
- воображаемый
- Влияние
- влияние
- улучшать
- улучшение
- in
- В других
- включены
- В том числе
- все больше и больше
- возложенный
- individual
- лиц
- неравенства
- сообщил
- инициативы
- пример
- вместо
- интерес
- ходе расследования,
- вопросы
- IT
- саму трезвость
- Джо Байден
- Юстиция
- Знать
- Фамилия
- В прошлом году
- Лиды
- привело
- уровни
- Вероятно
- Список
- дольше
- сделанный
- Mainstream
- средства массовой информации
- сделать
- человек
- макс-ширина
- Медиа
- МетаНьюс
- может быть
- момент
- БОЛЕЕ
- самых
- с разными
- имя
- родной
- Необходимость
- отрицательно
- Нидерланды
- Нейтральные
- номер
- предлагают
- предложенный
- предлагающий
- ONE
- постоянный
- противоположность
- Другие контрактные услуги
- Магазины
- Outlook
- собственный
- собственность
- вечеринка
- Люди
- народный
- восприятии
- человек
- личного
- взял
- Часть
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Сменная
- Точка
- пунктов
- сборах
- политика
- политический
- политической
- должность
- возможное
- потенциал
- мощностью
- предпочтения
- президент
- президент джо байден
- нажмите
- производительный
- Профессор
- обеспечивать
- приводит
- качества
- вопрос
- Вопросы
- опросник-тест
- Гонки
- расизма
- ранжирование
- подтвердил
- последний
- Реформа
- область
- регуляторы
- повторный
- Сообщается
- Отчеты
- исследованиям
- исследователи
- ответ
- показывать
- обратный
- рисках,
- Роли
- Правило
- Сказал
- то же
- говорит
- сценарий
- Наука
- казалось
- настройки
- сдвиг
- должен
- Стороны
- значительный
- с
- курение
- So
- солнечный
- Солнечная энергия
- некоторые
- удалось
- Источники
- особый
- Спектр
- Область
- заявил
- заявление
- отчетность
- Области
- акции
- История
- прочность
- сильные
- Успешно
- систематический
- системы
- взять
- Сложность задачи
- команда
- тестXNUMX
- тестов
- Ассоциация
- Нидерланды
- их
- сами
- вещи
- На этой неделе
- три
- время
- в
- слишком
- инструментом
- инструменты
- Темы
- Традиционно
- тенденция
- козырь
- типичный
- типично
- понимать
- Объединенный
- США
- Университет
- Университет штата Вашингтон
- us
- использование
- пользователей
- обычно
- Просмотры
- ГОЛОСА
- проголосовавший
- предупреждает
- Вашингтон
- способы
- неделя
- Что
- который
- в то время как
- белый
- КТО
- будете
- готовый
- мудрость
- в
- без
- женщина
- Работа
- работает
- бы
- записывать
- Неправильно
- год
- зефирнет