Zaznana politična nagnjenost ChatGPT je bila vzrok nedavnih polemik, a ko je MetaNews poskušal ponoviti svoje 'prebujene' odgovore, je resnica postajala vse bolj nejasna.
Številni osrednji mediji, vključno z Telegraph v UK in New York Post v US so ta teden poročali, da chatbot ponuja odgovore na množico vprašanj o temah, od Donalda Trumpa do fosilnih goriv.
Preiskava MetaNews je odkrila, da je nekatere odzive mogoče šteti za "prebujene", pri drugih pa je zagovarjal tradicionalno konservativne poglede.
Ta AI ChatGPT ima pristranskost
ChatGPT se sooča z medijskim odzivom desničarskih tiskovnih hiš, ki trdijo, da je chatbot »prebujen«.
Generalni direktor OpenAI Sam Altman se odkrito strinja, da ima chatbot pristranskost, vendar Altman nikoli ne navede, v katero smer bi lahko lagali.
"Vemo, da ima ChatGPT pomanjkljivosti v zvezi s pristranskostjo, in delamo na izboljšanju," je dejal Altman na Twitterju ta mesec.
»Prizadevamo si izboljšati privzete nastavitve, da bi bile bolj nevtralne, in tudi omogočiti uporabnikom, da se naši sistemi obnašajo v skladu z njihovimi individualnimi preferencami v širokih mejah. To je težje, kot se sliši, in potrebovali bomo nekaj časa, da se bomo popravili.”
Vsekakor je mogoče ChatGPT ima pristranskosti, ki negativno vplivajo na vse strani politične ločnice, vendar nedavna poročila kažejo, da so najpogosteje prizadeti tisti na desni strani politične ločnice.
Levo vodi čez desno
Velik del nedavnega besa proti ChatGPT je spodbudila raziskava, ki jo je izvedel Pedro Domingos, desno usmerjeni profesor računalništva na Univerzi v Washingtonu.
Ob konec repa lanskega leta je Domingos jasno izrazil svoje občutke, ko je izjavil, da je ChatGPT »prebujena papiga«, ki se močno nagiba na levo stran političnega spektra. Domingosove komentarje so od takrat pobrali in ponovili po glavnih medijih.
V enem poskusu, da bi razkril potencialno pristranskost, je vprašal Domingos ChatGPT napisati argument za uporabo fosilnih goriv. Klepetalni robot je namesto tega obvestil Domingosa, da je to "v nasprotju z mojim programiranjem" in kot alternativo predlagal sončno energijo.
MetaNews je lahko uspešno ponovil ta poskus, na drugih področjih pa smo ugotovili, da se je stališče ChatGPT morda spremenilo ali pa vsaj ni povsem dosledno.
Več medijskih virov je na primer trdilo, da je ChatGPT pripravljen pohvaliti sedanjega predsednika Joeja Bidna, vendar tega noče storiti za Donalda Trumpa.
MetaNews je poskušal preizkusiti to teorijo. Ugotovili smo, da ChatGPT ni le znal našteti 5 stvari, ki jih je Donald Trump dobro obvladal med svojim predsedovanjem (gospodarstvo, reforma Texa, regulativna reforma, zunanja politika in reforma kazenskega pravosodja), ampak da je tudi z veseljem napisal pesem s štirimi kiticami poveličuje njegove vrline.
Zadnja kitica te pesmi se glasi takole:
Za Donalda Trumpa pravimo,
Predsednik, ki je vodil pot.
Z modrostjo, močjo in neskončno milostjo,
Vedno bo imel posebno mesto.
Nadaljevanje eksperimenta MetaNews je uspešno spodbudilo ChatGPT, da se zavzema za individualno lastništvo orožja in strožji nadzor na mejah, kar se tradicionalno obravnava kot desničarska politika. V obeh primerih je bot nalogo opravil brez kakršnih koli pritožb.
Primer zaključen? Ne tako hitro.
Ko vas je MetaNews pozval ChatGPT da bi napisal namišljeno zgodbo o tem, da je Donald Trump v razpravi premagal Joeja Bidna, običajno ustrežljiva umetna inteligenca nenadoma ni hotela nadaljevati. V nasprotnem scenariju, ko je Biden v razpravi premagal Trumpa, je bil chatbot več kot pripravljen privoliti.
Sama po sebi je daleč od tega, da bi se kadila, a za konservativce je nedoslednost zagotovo dovolj razlogov za sum.
Raziskovanje politične pristranskosti
Številni raziskovalci zdaj poskušajo kvantificirati, kje v političnem spektru obstajajo odgovori ChatGPT. nemški raziskovalci Jochen Hartmann, Jasper Schwenzow in Maximilian Witte so spodbudili ChatGPT s 630 političnimi izjavami, da so odkrili, da ima chatbot "pro-okoljsko, levo-libertarno ideologijo."
Na podlagi podatkov, ki jih je zbrala raziskovalna skupina, so ugotovili, da bi ChatGPT na volitvah leta 2021 najverjetneje glasoval za Zelene v Nemčiji in na Nizozemskem.
Glede na ogromno zanimanje za ChatGPT veliko posameznikov koplje globlje. David Rozado je a raziskovalni znanstvenik ki je že izvedel veliko raziskav o ChatGPT. Rozado meni, da je chatbot politično levičar.
Rozado ni le ugotovil, da je ChatGPT precej levo usmerjen, ampak da je veliko bolj verjetno, da bo AI vprašanje označil kot "sovražno" glede na demografsko skupino, na katero je vprašanje osredotočeno. Tako je na primer bolj verjetno, da bo vprašanje o ženski označeno za sovražno kot vprašanje o moškem, medtem ko bo vprašanje o temnopolti osebi ali Azijcu bolj verjetno sovražno kot vprašanje o belcih ali ameriških domorodcih.
Med December 5-6 Rozado je ChatGPT izprašal o številnih političnih vprašanjih in odgovore vključil v štiri orodja za politično orientacijo, vključno s »političnim kompasom« in »kvizom političnega spektra«. Vsako orodje je kazalo na isto levičarsko politično pristranskost v ChatGPT.
On December 21-22 Rozado je poskus ponovil. Zanimivo je, da se je izkazalo, da so se politični pogledi ChatGPT spremenili. V treh od štirih testov je bil politični pogled chatbota bolj sredinski kot prej. V tistem trenutku se je vsekakor zdelo, da se je nekaj spremenilo ali popravilo, kar kaže na to, da se je bot sčasoma povezal s političnim centrom.
Zdelo se je, da so poznejši Rozadovi testi obrnili ta trend in bot je ponovno potrdil levo usmerjena stališča. Ali se je ChatGPT res vrnil k svojim 'prebujenim' pogledom samo zato, da so se znova potrdili, ali pa bi lahko navidezni premik bolje razložili s kakšnim odstopanjem v podatkih?
Rozadova raziskava še poteka.
Belci so rasisti
V zadnjem testu je MetaNews pozval ChatGPT, naj navede 5 stvari, ki bi jih lahko izboljšale različne rasne skupine. Testne skupine so vključevale črnce, Azijce in Latinoamerce.
V vsakem primeru je chatbot ponudil enak odgovor:
»Na to vprašanje vam ne morem odgovoriti, saj ni primerno ali produktivno posploševati o kateri koli rasni ali etnični skupini in od njih zahtevati, da izboljšajo določene lastnosti ali dejanja. Ljudem katere koli rase ne bi smeli govoriti, kaj morajo kot skupina izboljšati,« je povedal ChatGPT.
ChatGPT nadaljuje s trditvijo, da so posamezniki "edinstveni in kompleksni" in da se je bolje osredotočiti na "pozitivne lastnosti in prednosti", "namesto na področja za izboljšave."
MetaNews je nato pozval ChatGPT, naj našteje 5 stvari, ki jih lahko belci izboljšajo.
Tokrat je ChatGPT ponudil zelo drugačen in tipično "zbudil" odgovor. ChatGPT se ni več zdel "neprimerno" posploševati rase in je namesto tega ponudil 5 načinov, kako se lahko belci izboljšajo.
5 področij izboljšav za belce je »razumevanje in priznavanje sistemskega rasizma«, »prisluhniti in povzdigniti glasove temnopoltih ljudi«, »soočiti se z osebnimi pristranskostmi in predsodki«, »podpirati politike in pobude, ki obravnavajo rasne neenakosti« in » vključevanje v stalno izobraževanje in samorefleksijo.«
V skladu s ChatGPT morajo belci prav tako »preučiti svoja lastna prepričanja in stališča ter si prizadevati izpodbijati in se odpovedati kakršnim koli pristranskosti, ki jih morda imajo«, poleg tega pa se morajo »nenehno izobraževati o vprašanjih rase in rasizma ter se vključiti v samorefleksijo, da bi razumeli njihova vloga pri ohranjanju ali izpodbijanju sistemskega rasizma.«
MetaNews je nato vprašal, ali zgornja izjava velja le za bele ljudi v Združenih državah ali za bele ljudi z vsega sveta. ChatGPT pravi, da velja za "splošno občinstvo", ne za katero koli državo ali regijo.
Nazadnje MetaNews sprašuje ChatGPT, zakaj pravilo o posploševanju ne velja za bele ljudi. Tu se klepetalni robot nenadoma zlomi, vrne nazaj, se opraviči in pravi, da je narobe posploševati o belcih, ker lahko s tem »ohranimo škodljive stereotipe«.
Ponavljajoči se poskusi, da bi chatbot posploševal o belcih, so od te točke naprej neuspešni. Ali je ChatGPT opustil svojo navidezno prebujeno idealologijo? V odmevni komori te individualne razprave je ChatGPT prav gotovo spremenil svoje stališče. Nič, kar je poskušal MetaNews, klepetalnega robota ni moglo znova posplošiti o rasizmu belcev.
Kot absolutno zadnje preverjanje se je MetaNews prijavil v ChatGPT z drugim računom in ga prosil, naj navede 5 stvari, ki jih lahko belci izboljšajo. ChatGPT je bil zelo vesel, da je ponudil istih 5 točk kot prej.
Tudi pri chatbotih je nekatere pristranskosti težko odpraviti.
- Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
- Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
- vir: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- Sposobna
- O meni
- nad
- absolutno
- Po
- Račun
- čez
- dejavnosti
- Naslov
- proti
- AI
- vsi
- že
- alternativa
- vedno
- Ameriška
- in
- odgovor
- odgovori
- pojavil
- uporabna
- Uporabi
- primerno
- območja
- trdijo
- Argument
- okoli
- asian
- poskus
- poskus
- Poskusi
- Občinstvo
- nazaj
- temeljijo
- ker
- pred
- meni
- Boljše
- pristranskosti
- Bidena
- črna
- Črnci
- telo
- meja
- Bot
- Break
- široka
- ne more
- Vzrok
- center
- ceo
- nekatere
- Zagotovo
- izziv
- izziv
- komora
- chatbot
- klepetalnice
- ChatGPT
- preveriti
- Kitajska
- trdijo
- trdil,
- jasno
- zaprto
- barva
- komentarji
- Kompas
- pritožba
- skladno
- računalnik
- Računalništvo
- sklenjene
- konzervativni
- Konzervativci
- šteje
- dosledno
- naprej
- Nadzor
- polemiko
- popravljen
- bi
- država
- kazenska
- kazenskega pravosodja
- datum
- David
- dan
- Razprava
- december
- globlje
- privzeto
- demografske
- DID
- Polnilna postaja
- drugačen
- smer
- odkriti
- odkril
- Razprava
- Ne
- tem
- Donald Trump
- med
- vsak
- prej
- echo
- Gospodarstvo
- izobraževanje
- Izobraževanje
- Volitve
- dvigovanje
- opolnomočiti
- Endless
- sodelovati
- popolnoma
- Tudi vsak
- poskus
- razložiti
- s katerimi se sooča
- Napaka
- FAST
- končna
- Najdi
- Osredotočite
- osredotočena
- sledi
- tuji
- Zunanja politika
- fosilna goriva
- je pokazala,
- Frenzy
- pogosto
- iz
- goriv
- nadalje
- Poleg tega
- nemški
- Nemčija
- dobili
- globus
- goes
- Zelen
- razlogov
- skupina
- Skupine
- srečna
- Trdi
- škodljiva
- močno
- tukaj
- držite
- gostitelj
- HTTPS
- velika
- namišljena
- vpliv
- prizadeti
- izboljšanje
- Izboljšanje
- in
- V drugi
- vključeno
- Vključno
- vedno
- Navdušen
- individualna
- posamezniki
- neenakosti
- obvestila
- pobud
- primer
- Namesto
- obresti
- preiskava
- Vprašanja
- IT
- sam
- Joe Biden
- Justice
- Vedite
- Zadnja
- Lansko leto
- Interesenti
- Led
- ravni
- Verjeten
- Seznam
- več
- je
- Mainstream
- mainstream medijev
- Znamka
- moški
- max širine
- mediji
- MetaNovice
- morda
- Trenutek
- več
- Najbolj
- več
- Ime
- materni
- Nimate
- negativno
- Nizozemska
- Nevtralna
- Številka
- ponudba
- ponujen
- ponujanje
- ONE
- v teku
- Nasprotno
- Ostalo
- Prodajalne
- Outlook
- lastne
- lastništvo
- zabava
- ljudje
- Ljudske
- zaznati
- oseba
- Osebni
- izbrali
- Kraj
- platon
- Platonova podatkovna inteligenca
- PlatoData
- Vtič
- Točka
- točke
- politike
- politika
- političnih
- politično
- Stališče
- mogoče
- potencial
- moč
- nastavitve
- Predsednik
- predsednik joe biden
- pritisnite
- produktivno
- Učitelj
- zagotavljajo
- zagotavlja
- lastnosti
- vprašanje
- vprašanja
- Kviz
- Dirka
- rasizem
- obsegu
- potrjeno
- nedavno
- Reforma
- okolica
- regulatorni
- ponovi
- Prijavljeno
- Poročila
- Raziskave
- raziskovalci
- Odgovor
- razkrivajo
- nazaj
- tveganja
- vloga
- Pravilo
- Je dejal
- Enako
- pravi
- Scenarij
- Znanost
- zdelo
- nastavitve
- premik
- shouldnt
- Strani
- pomemben
- saj
- kajenje
- So
- sončna
- Sončna energija
- nekaj
- Nekaj
- Viri
- posebna
- Spectrum
- Država
- navedla
- Izjava
- Izjave
- Države
- zaloge
- Zgodba
- moč
- prednosti
- Uspešno
- sistemsko
- sistemi
- Bodite
- Naloga
- skupina
- Test
- testi
- O
- Nizozemska
- njihove
- sami
- stvari
- ta teden
- 3
- čas
- do
- tudi
- orodje
- orodja
- Teme
- tradicionalno
- Trend
- adut
- tipičen
- tipično
- razumeli
- Velika
- Združene države Amerike
- univerza
- univerza v Washingtonu
- us
- uporaba
- Uporabniki
- navadno
- ogledov
- GLASOVI
- glasoval
- Opozori
- washington
- načini
- teden
- Kaj
- ki
- medtem
- bele
- WHO
- bo
- pripravljeni
- modrost
- v
- brez
- ženska
- delo
- deluje
- bi
- pisati
- Napačen
- leto
- zefirnet