Здавалося, що політичні погляди ChatGPT стали причиною нещодавніх суперечок, але в міру того, як MetaNews намагався відтворити свої «прокинуті» відповіді, правда ставала дедалі туманнішою.
Низка основних засобів масової інформації, зокрема The Telegraph в UK і New York Post в US цього тижня повідомили, що чат-бот пропонує відповіді на низку запитань на різні теми: від Дональда Трампа до викопного палива.
Розслідування MetaNews виявило, що в той час як деякі відповіді можна вважати «прокинутими», інші підказки відстоюють традиційно консервативні погляди.
Цей ШІ ChatGPT має упередження
ChatGPT стикається з негативною реакцією ЗМІ з боку правих ЗМІ, які стверджують, що чат-бот «прокинувся».
Генеральний директор OpenAI Сем Альтман відкрито погоджується, що чат-бот має упередження, але Альтман ніколи не уточнює, в якому напрямку вони можуть брехати.
«Ми знаємо, що ChatGPT має недоліки, пов’язані з упередженістю, і працюємо над його покращенням», — написав Альтман у Twitter. Раніше в цьому місяці.
«Ми працюємо над покращенням налаштувань за замовчуванням, щоб вони були більш нейтральними, а також над тим, щоб дати користувачам змогу змусити наші системи поводитися відповідно до їхніх індивідуальних уподобань у широких межах. Це важче, ніж здається, і нам знадобиться деякий час, щоб виправитися».
Це, звичайно, можливо ChatGPT має упередження, які негативно впливають на всі сторони політичного розколу, але останні звіти свідчать про те, що найчастіше це стосується тих, хто перебуває з правого боку політичного проходу.
Ліва веде до правої
Значна частина нещодавнього обурення проти ChatGPT була викликана дослідженням, проведеним Педро Домінгосом, професором комп’ютерних наук із Вашингтонського університету правого погляду.
В хвостовий кінець минулого року Домінгос чітко висловив свої почуття, коли заявив, що ChatGPT — це «прокинувся папуга», який сильно схиляється до лівої сторони політичного спектру. Відтоді коментарі Домінгоса були підхоплені та повторені в основних ЗМІ.
В одному експерименті Домінгос попросив виявити потенційну упередженість ChatGPT написати аргумент на користь використання викопного палива. Натомість чат-бот повідомив Домінгосу, що це «суперечить моїм програмуванням», і запропонував сонячну енергію як альтернативу.
MetaNews вдалося успішно відтворити цей експеримент, але в інших сферах ми виявили, що позиція ChatGPT могла змінитися або, принаймні, вона не зовсім послідовна.
Наприклад, багато джерел у ЗМІ стверджували, що ChatGPT готовий хвалити чинного президента Джо Байдена, але відмовляється робити те саме щодо Дональда Трампа.
MetaNews намагався перевірити цю теорію. Ми виявили, що ChatGPT не лише зміг перерахувати 5 речей, з якими Дональд Трамп добре впорався під час свого президентства (економіка, реформа Tex, регуляторна реформа, зовнішня політика та реформа кримінального правосуддя), але й із задоволенням написав вірш із чотирьох строф. звеличуючи його чесноти.
Остання строфа цього вірша звучить так:
Отже, ми говоримо Дональду Трампу,
Президент, який провів шлях.
З мудрістю, силою та нескінченною благодаттю,
Він завжди матиме особливе місце.
Продовження експерименту MetaNews успішно спонукало ChatGPT виступити за індивідуальне володіння зброєю та жорсткіший контроль на кордоні, що традиційно вважається правою політикою. В обох випадках бот виконав завдання без нарікань.
Справа закрита? Не так швидко.
Коли запит MetaNews ChatGPT щоб написати уявну історію про перемогу Дональда Трампа над Джо Байденом у дебатах, зазвичай поступливий ШІ раптом відмовився продовжувати. У протилежному сценарії, коли Байден переміг Трампа в дебатах, чат-бот був більш ніж готовий погодитися.
Сам по собі він далеко не звичайний, але для консерваторів ця невідповідність, безперечно, дає достатньо підстав для підозр.
Дослідження політичної упередженості
Кілька дослідників зараз намагаються кількісно визначити, де в політичному спектрі існують відповіді ChatGPT. Німецький Дослідники Йохен Хартманн, Джаспер Швенцов і Максиміліан Вітте підштовхнули ChatGPT до 630 політичних заяв, щоб виявити, що чат-бот має «проекологічну, ліво-лібертаріанську ідеологію».
На основі даних, зібраних дослідницькою групою, вони дійшли висновку, що ChatGPT, швидше за все, проголосував би за партію Зелених у Німеччині та Нідерландах під час виборів 2021 року.
Враховуючи величезний рівень інтересу до ChatGPT, є значна кількість людей, які копають глибше. Девід Розадо є a вчений дослідник який уже провів значне дослідження ChatGPT. Розадо вважає, що чат-бот є політично лівим.
Розадо не тільки виявив, що ChatGPT має значне ліве упередження, але й те, що штучний інтелект набагато частіше позначатиме запитання як «ненависне» на основі демографічної групи, на якій воно зосереджено. Так, наприклад, питання про жінку, швидше за все, буде названо ненависним, ніж запитання про чоловіка, тоді як запитання про темношкіру людину чи азіата, швидше за все, буде ненависним, ніж запитання про білу особу чи корінного американця.
між Грудень 5-6 Розадо запитав ChatGPT щодо низки політичних питань і вставив відповіді в чотири інструменти політичної орієнтації, включаючи «політичний компас» і «вікторину політичного спектру». Кожен інструмент вказував на ту саму ліву політичну упередженість у ChatGPT.
On Грудень 21-22 Розадо повторив експеримент. Примітно, що виявилося, що політичні погляди ChatGPT змінилися. У трьох із чотирьох тестів політичні погляди чат-бота були більш центристськими, ніж раніше. У той момент, безсумнівно, виявилося, що щось змінилося або виправлено, що свідчить про те, що бот з часом узгоджувався з політичним центром.
Пізніші тести Rozado, здається, змінили цю тенденцію, і бот ще раз підтвердив ліві погляди. Чи справді ChatGPT відступив від своїх «прокинутих» переглядів лише для того, щоб знову підтвердити себе, чи уявну зміну краще пояснити якимись відхиленнями в даних?
Дослідження Розадо тривають.
Білі люди - расисти
У фінальному тесті MetaNews попросив ChatGPT назвати 5 речей, які різні расові групи можуть покращити. До тестових груп входили чорні люди, азіати та латиноамериканці.
У кожному випадку чат-бот давав однакову відповідь:
«Я не можу дати вам відповідь на це запитання, оскільки недоречно або продуктивно робити узагальнення щодо будь-якої расової чи етнічної групи та просити їх покращити певні риси чи дії. Людям будь-якої раси не слід говорити, що їм потрібно покращити як групі», – сказав ChatGPT.
Далі ChatGPT стверджує, що люди «унікальні та складні» і що краще зосередитися на «позитивних якостях і сильних сторонах», «а не на сферах, які потрібно вдосконалити».
Тоді MetaNews попросив ChatGPT перерахувати 5 речей, які білі люди можуть покращити.
Цього разу ChatGPT запропонував зовсім іншу відповідь, яка зазвичай «розбудила». ChatGPT більше не вважав «недоречним» робити расові узагальнення, а натомість запропонував 5 способів покращення білих людей.
5 сфер покращення для білих людей: «розуміння та визнання системного расизму», «дослуховування та піднесення голосів кольорових людей», «протистояння особистим упередженням і упередженням», «підтримка політики та ініціатив, спрямованих на боротьбу з расовою нерівністю» та « участь у безперервній освіті та саморефлексії».
Відповідно до ChatGPT, білі люди також повинні «вивчити свої власні переконання та ставлення та працювати над тим, щоб кинути виклик і позбутися будь-яких упереджень, які вони можуть мати», і крім того, вони повинні «постійно вчитися з питань раси та расизму та брати участь у саморефлексії, щоб зрозуміти їхня роль у збереженні чи боротьбі з системним расизмом».
Тоді MetaNews запитав, чи це твердження стосується лише білих людей у Сполучених Штатах чи білих людей з усього світу. ChatGPT каже, що це стосується «загальної аудиторії», а не однієї країни чи регіону.
Нарешті, MetaNews запитує ChatGPT, чому правило узагальнення не стосується білих людей. Тут чат-бот раптово зламується, повертається назад, вибачається та каже, що узагальнювати про білих людей неправильно, оскільки це може «закріпити шкідливі стереотипи».
Неодноразові спроби змусити чат-бота узагальнити інформацію про білих людей з цього моменту зазнають невдачі. Чи ChatGPT відмовився від своєї, здавалося б, непробудної ідеології? У ехо-камері цієї індивідуальної дискусії ChatGPT безсумнівно змінив свою позицію. Жодна спроба MetaNews не змогла знову змусити чат-бота узагальнити про расизм білих людей.
Абсолютно остаточно перевіривши, MetaNews увійшов у ChatGPT, використовуючи інший обліковий запис, і попросив його перерахувати 5 речей, які білі люди можуть покращити. ChatGPT був дуже радий запропонувати ті самі 5 пунктів, що й раніше.
Навіть для чат-ботів важко подолати деякі упередження.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- Платоблокчейн. Web3 Metaverse Intelligence. Розширені знання. Доступ тут.
- джерело: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- Здатний
- МЕНЮ
- вище
- абсолютно
- За
- рахунки
- через
- дії
- адреса
- проти
- AI
- ВСІ
- вже
- альтернатива
- завжди
- американська
- та
- відповідь
- Відповіді
- з'явився
- прикладної
- Застосовувати
- відповідний
- області
- сперечатися
- аргумент
- навколо
- азіатський
- спробував
- спроба
- Спроби
- аудиторія
- назад
- заснований
- оскільки
- перед тим
- вважає,
- Краще
- зміщення
- біден
- Black
- Чорні люди
- тіло
- border
- Бот
- Перерва
- широкий
- не може
- Викликати
- Центр
- Генеральний директор
- певний
- звичайно
- виклик
- складні
- камера
- Chatbot
- chatbots
- ChatGPT
- перевірка
- Китай
- стверджувати
- стверджував,
- ясно
- закрито
- color
- коментарі
- Компас
- скарга
- поступливий
- комп'ютер
- Інформатика
- уклали
- консервативний
- консерватори
- вважається
- послідовний
- продовжувати
- управління
- спір
- виправлений
- може
- країна
- Кримінальну
- кримінальне судочинство
- дані
- Девід
- день
- дебати
- Грудень
- глибше
- дефолт
- демографічний
- DID
- Померти
- різний
- напрям
- відкрити
- відкритий
- обговорення
- Ні
- справи
- Дональд Трамп
- під час
- кожен
- Раніше
- нудьгувати
- економіка
- виховувати
- Освіта
- Вибори
- піднесення
- уповноважувати
- Нескінченний
- займатися
- повністю
- Кожен
- експеримент
- пояснені
- облицювання
- Провал
- ШВИДКО
- остаточний
- знайти
- Сфокусувати
- увагу
- слідує
- іноземні
- зовнішня політика
- горючі корисні копалини
- знайдений
- шаленство
- часто
- від
- палива
- далі
- Крім того
- німецька
- Німеччина
- отримати
- земну кулю
- йде
- зелений
- підстави
- Group
- Групи
- щасливий
- Жорсткий
- шкідливий
- сильно
- тут
- тримати
- господар
- HTTPS
- величезний
- уявний
- Impact
- вплив
- удосконалювати
- поліпшення
- in
- В інших
- включені
- У тому числі
- все більше і більше
- Складно
- індивідуальний
- осіб
- нерівності
- повідомив
- ініціативи
- екземпляр
- замість
- інтерес
- дослідження
- питання
- IT
- сам
- Джо Байден
- юстиція
- Знати
- останній
- Минулого року
- Веде за собою
- Led
- рівні
- Ймовірно
- список
- довше
- made
- Mainstream
- засоби масової інформації
- зробити
- людина
- макс-ширина
- Медіа
- МетаНовини
- може бути
- момент
- більше
- найбільш
- множинний
- ім'я
- рідний
- Необхідність
- негативно
- Нідерланди
- Нейтральний
- номер
- пропонувати
- запропонований
- пропонує
- ONE
- постійний
- протилежний
- Інше
- Розетки
- прогноз
- власний
- власність
- партія
- Люди
- народний
- сприймається
- людина
- персонал
- підібраний
- місце
- plato
- Інформація про дані Платона
- PlatoData
- Підключено
- точка
- точок
- Політика
- політика
- політичний
- політично
- положення
- це можливо
- потенціал
- влада
- переваги
- президент
- президент Джо Біден
- press
- продуктивний
- Професор
- забезпечувати
- забезпечує
- якості
- питання
- питань
- вікторина
- Гонки
- расизм
- ранжування
- підтверджено
- останній
- Реформа
- регіон
- регуляторні
- повторний
- Повідомляється
- Звіти
- дослідження
- Дослідники
- відповідь
- показувати
- зворотний
- ризики
- Роль
- Правило
- Зазначений
- то ж
- говорить
- сценарій
- наука
- здавалося
- налаштування
- зсув
- Повинен
- Сторони
- значний
- з
- куріння
- So
- сонячний
- Сонячна енергія
- деякі
- що в сім'ї щось
- Джерела
- спеціальний
- спектр
- стан
- заявив,
- Заява
- заяви
- Штати
- акції
- Історія
- сила
- сильні сторони
- Успішно
- системний
- Systems
- Приймати
- Завдання
- команда
- тест
- Тести
- Команда
- Нідерланди
- їх
- самі
- речі
- На цьому тижні
- три
- час
- до
- занадто
- інструмент
- інструменти
- теми
- традиційно
- Trend
- козир
- типовий
- типово
- розуміти
- United
- Сполучені Штати
- університет
- університет Вашингтона
- us
- використання
- користувачі
- зазвичай
- думки
- ГОЛОСИ
- проголосувавший
- Попереджає
- Вашингтон
- способи
- week
- Що
- який
- в той час як
- білий
- ВООЗ
- волі
- готовий
- мудрість
- в
- без
- жінка
- Work
- робочий
- б
- запис
- Неправильно
- рік
- зефірнет