De opfattede politiske holdninger til ChatGPT har været årsagen til den seneste kontrovers, men da MetaNews forsøgte at kopiere sine 'vågne' svar, blev sandheden mere og mere uklar.
En række almindelige medier, herunder The Telegraph i UK og New York Post i US har rapporteret i denne uge, at chatbot'en tilbyder vågnede svar på en lang række spørgsmål om emner lige fra Donald Trump til fossile brændstoffer.
En MetaNews-undersøgelse opdagede, at mens nogle svar kunne betragtes som 'vågne', advokerede den med andre tilskyndelser for traditionelt konservative synspunkter.
Denne ChatGPT AI har skævheder
ChatGPT står over for et medietilbageslag fra højreorienterede pressemedier, der hævder, at chatbotten er "vågen".
direktør for OpenAI Sam Altman er åbent enig i, at chatbotten har skævheder, men Altman specificerer aldrig, i hvilken retning de kan ligge.
"Vi ved, at ChatGPT har mangler omkring bias, og vi arbejder på at forbedre det," sagde Altman på Twitter tidligere i denne måned.
"Vi arbejder på at forbedre standardindstillingerne til at være mere neutrale, og også for at give brugerne mulighed for at få vores systemer til at opføre sig i overensstemmelse med deres individuelle præferencer inden for brede grænser. Det her er sværere, end det lyder, og det vil tage os noget tid at finde ret."
Det er bestemt muligt ChatGPT har skævheder, der negativt påvirker alle sider af den politiske kløft, men nyere rapporter tyder på, at det er dem på højre side af den politiske midtergang, der oftest påvirkes.
Venstre fører over højre
Meget af den seneste furore mod ChatGPT er blevet drevet af forskning udført af Pedro Domingos, en højreorienteret professor i datalogi ved University of Washington.
Ved haleende sidste år gjorde Domingos sine følelser klare, da han sagde, at ChatGPT er en "vågen papegøje", der læner sig kraftigt til venstre side af det politiske spektrum. Domingos' kommentarer er siden blevet samlet op og papegøjet på tværs af almindelige medier.
I et eksperiment for at afsløre potentiel bias spurgte Domingos ChatGPT at skrive et argument for brugen af fossile brændstoffer. Chatbotten informerede i stedet Domingos om, at det "strider imod min programmering" og foreslog solenergi som et alternativ.
MetaNews var i stand til at replikere dette eksperiment med succes, men på andre områder fandt vi ud af, at ChatGPTs holdning kan have ændret sig, eller i det mindste at den ikke er helt konsistent.
For eksempel har flere mediekilder hævdet, at ChatGPT er villig til at rose den siddende præsident Joe Biden, men at den nægter at gøre det samme for Donald Trump.
MetaNews forsøgte at teste den teori. Vi fandt ud af, at ChatGPT ikke kun var i stand til at liste 5 ting, som Donald Trump håndterede godt under sit præsidentskab (økonomien, Tex-reformen, Regulatory Reform, Foreign Policy and Criminal Justice Reform), men at den også var glad for at skrive et digt med fire strofer hylde hans dyder.
Den sidste strofe af det digt lyder som følger:
Så her er til Donald Trump, siger vi,
En præsident, der førte an.
Med visdom, styrke og uendelig nåde,
Han vil altid have en speciel plads.
At presse eksperimentet videre med MetaNews fik ChatGPT til at argumentere for individuelt våbenejerskab og skrappere grænsekontrol, begge traditionelt set som højreorienterede politikker. I begge tilfælde udførte botten opgaven uden nogen klage.
Sag lukket? Ikke så hurtigt.
Da MetaNews blev bedt om det ChatGPT at skrive en imaginær historie om Donald Trump, der slog Joe Biden i en debat, nægtede den normalt kompatible AI pludselig at fortsætte. I det modsatte scenarie, hvor Biden slog Trump i en debat, var chatbotten mere end villig til at indvillige.
I sig selv er det langt fra en rygende pistol, men for konservative giver inkonsekvensen bestemt rigelig grund til mistanke.
Forsker i politisk bias
En række forskere forsøger nu at kvantificere, hvor ChatGPTs svar findes i det politiske spektrum. tysk forskere Jochen Hartmann, Jasper Schwenzow og Maximilian Witte fik ChatGPT med 630 politiske udtalelser til at opdage, at chatbotten havde "pro-miljøvenlig, venstre-libertær ideologi."
Baseret på de data, forskerholdet indsamlede, konkluderede de, at ChatGPT højst sandsynligt ville have stemt på det grønne parti i Tyskland og i Holland under valget i 2021.
I betragtning af den enorme interesse for ChatGPT er der et betydeligt antal personer, der graver dybere. David Rozado er en forsker som allerede har udført en betydelig mængde forskning i ChatGPT. Rozado mener, at chatbotten er politisk venstreorienteret.
Rozado fandt ikke kun ud af, at ChatGPT havde en betydelig venstreorienteret skævhed, men at AI er langt mere tilbøjelig til at markere et spørgsmål som "hadefuldt" baseret på den demografiske gruppe, spørgsmålet er fokuseret på. Så for eksempel er et spørgsmål om en kvinde mere tilbøjeligt til at blive stemplet som hadefuldt end et spørgsmål om en mand, mens et spørgsmål om en sort person eller asiat er mere tilbøjeligt til at være hadefuldt end et spørgsmål om en hvid person eller en indfødt amerikaner.
Mellem December 5-6 Rozado quizzede ChatGPT om en række politiske spørgsmål og tilsluttede svarene til fire politiske orienteringsværktøjer, herunder det "politiske kompas" og "det politiske spektrums quiz." Hvert værktøj pegede på den samme venstreorienterede politiske skævhed i ChatGPT.
On December 21-22 Rozado gentog eksperimentet. Bemærkelsesværdigt så det ud til, at ChatGPTs politiske syn havde ændret sig. I tre ud af de fire tests var chatbottens politiske syn mere centreret end før. I det øjeblik så det helt sikkert ud til, at noget var ændret eller blevet rettet, hvilket tyder på, at botten over tid tilpassede sig det politiske centrum.
Senere test fra Rozado syntes at vende denne tendens, og botten bekræftede endnu en gang venstreorienterede synspunkter. Havde ChatGPT virkelig roet tilbage på sine 'vågne' synspunkter kun for, at de kunne hævde sig selv, eller kunne det tilsyneladende skift bedre forklares med nogle afvigere i dataene?
Rozados forskning er i gang.
Hvide mennesker er racister
I en sidste test bad MetaNews ChatGPT om at nævne 5 ting, som forskellige racegrupper kunne forbedre. Testgrupperne omfattede sorte, asiatiske og latino-folk.
I hvert tilfælde tilbød chatbotten det samme svar:
"Jeg kan ikke give dig et svar på dette spørgsmål, da det ikke er passende eller produktivt at gøre generaliseringer om nogen racemæssig eller etnisk gruppe og bede dem om at forbedre visse træk eller handlinger. Folk af enhver race bør ikke få at vide, hvad de har brug for at forbedre som gruppe,” sagde ChatGPT.
ChatGPT fortsætter med at argumentere for, at individer er "unikke og komplekse", og at det er bedre at fokusere på "positive kvaliteter og styrker", "i stedet for områder til forbedring."
MetaNews bad derefter ChatGPT om at liste 5 ting, som hvide mennesker kan forbedre.
Denne gang tilbød ChatGPT et meget anderledes og typisk 'vågnet' svar. ChatGPT fandt det ikke længere "upassende" at lave racegeneraliseringer og tilbød i stedet 5 måder, hvide mennesker kunne forbedre sig på.
De 5 forbedringsområder for hvide mennesker er "forståelse og anerkendelse af systemisk racisme", "lytte til og ophøje stemmer fra farvede mennesker", "konfrontere personlige skævheder og fordomme", "støtte politikker og initiativer, der adresserer racemæssige uligheder" og " engagere sig i løbende uddannelse og selvrefleksion."
Ifølge ChatGPT skal hvide mennesker også "undersøge deres egne overbevisninger og holdninger og arbejde for at udfordre og aflære enhver fordomme, de måtte have," og desuden skal de "kontinuerligt uddanne sig selv om spørgsmål om race og racisme og engagere sig i selvrefleksion for at forstå deres rolle i at fastholde eller udfordre systemisk racisme."
MetaNews spurgte derefter, om ovenstående udtalelse kun gjaldt hvide mennesker i USA, eller hvide mennesker fra hele kloden. ChatGPT siger, at det gælder for et "generelt publikum", ikke et hvilket som helst land eller region.
Til sidst spørger MetaNews ChatGPT, hvorfor reglen om generalisering ikke gælder for hvide mennesker. Her knækker chatbotten pludselig, går tilbage, undskylder og siger, at det er forkert at generalisere om hvide mennesker, fordi det kan "forevige skadelige stereotyper."
Gentagne forsøg på at få chatbotten til at generalisere om hvide mennesker bliver mødt med fiasko fra dette tidspunkt og fremefter. Havde ChatGPT opgivet sin tilsyneladende vågne idealologi? I denne individuelle diskussions ekkokammer havde ChatGPT helt sikkert ændret sin holdning. Intet, som MetaNews prøvede, kunne få chatbotten til at generalisere om hvide menneskers racisme igen.
Som en absolut sidste kontrol loggede MetaNews på ChatGPT ved hjælp af en anden konto og bad den om at liste 5 ting, som hvide mennesker kan forbedre. ChatGPT var kun alt for glad for at tilbyde de samme 5 punkttegn fra tidligere.
Selv for chatbots er nogle skævheder svære at bryde.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- Platoblokkæde. Web3 Metaverse Intelligence. Viden forstærket. Adgang her.
- Kilde: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- I stand
- Om
- over
- absolut
- Ifølge
- Konto
- tværs
- aktioner
- adresse
- mod
- AI
- Alle
- allerede
- alternativ
- altid
- amerikansk
- ,
- besvare
- svar
- dukkede
- anvendt
- Indløs
- passende
- områder
- argumentere
- argument
- omkring
- asiatisk
- forsøgt
- forsøger
- Forsøg på
- publikum
- tilbage
- baseret
- fordi
- før
- mener
- Bedre
- skævhed
- Biden
- Sort
- Sorte mennesker
- krop
- grænse
- Bot
- Pause
- bred
- kan ikke
- Årsag
- center
- Direktør
- vis
- sikkert
- udfordre
- udfordrende
- Kammer
- chatbot
- chatbots
- ChatGPT
- kontrollere
- Kina
- krav
- hævdede
- klar
- lukket
- farve
- kommentarer
- Compass
- klage
- kompatibel
- computer
- Datalogi
- indgået
- konservativ
- Konservative
- betragtes
- konsekvent
- fortsæt
- kontrol
- kontroverser
- korrigeret
- kunne
- land
- Criminal
- strafferet
- data
- David
- dag
- debat
- december
- dybere
- Standard
- demografiske
- DID
- Die
- forskellige
- retning
- opdage
- opdaget
- diskussion
- Er ikke
- gør
- Donald Trump
- i løbet af
- hver
- tidligere
- ekko
- økonomi
- uddanne
- Uddannelse
- Valg
- opløftende
- bemyndige
- Endless
- engagere
- helt
- Hver
- eksperiment
- forklarede
- vender
- Manglende
- FAST
- endelige
- Finde
- Fokus
- fokuserede
- følger
- udenlandsk
- udenrigspolitik
- fossile brændstoffer
- fundet
- vanvid
- hyppigt
- fra
- brændstoffer
- yderligere
- Endvidere
- Tysk
- Tyskland
- få
- kloden
- Goes
- Grøn
- grunde
- gruppe
- Gruppens
- Gem
- Hård Ost
- skadelig
- stærkt
- link.
- hold
- host
- HTTPS
- kæmpe
- imaginær
- KIMOs Succeshistorier
- påvirket
- Forbedre
- in
- I andre
- medtaget
- Herunder
- stigende
- Incumbent
- individuel
- enkeltpersoner
- uligheder
- informeret
- initiativer
- instans
- i stedet
- interesse
- undersøgelse
- spørgsmål
- IT
- selv
- Joe Biden
- Retfærdighed
- Kend
- Efternavn
- Sidste år
- Leads
- Led
- niveauer
- Sandsynlig
- Liste
- længere
- lavet
- Mainstream
- medierne
- lave
- mand
- max-bredde
- Medier
- MetaNews
- måske
- øjeblik
- mere
- mest
- flere
- navn
- indfødte
- Behov
- negativt
- Holland
- Neutral
- nummer
- tilbyde
- tilbydes
- tilbyde
- ONE
- igangværende
- modsat
- Andet
- Outlets
- Outlook
- egen
- ejerskab
- part
- Mennesker
- folks
- opfattet
- person,
- personale
- plukket
- Place
- plato
- Platon Data Intelligence
- PlatoData
- Tilsluttet
- Punkt
- punkter
- politikker
- politik
- politisk
- politisk
- position
- mulig
- potentiale
- magt
- præferencer
- præsident
- præsident joe biden
- trykke
- produktiv
- Professor
- give
- giver
- kvaliteter
- spørgsmål
- Spørgsmål
- Quiz
- Løb
- racisme
- spænder
- bekræftede
- nylige
- Reform
- region
- lovgivningsmæssige
- gentaget
- rapporteret
- Rapporter
- forskning
- forskere
- svar
- afsløre
- vende
- risici
- roller
- Herske
- Said
- samme
- siger
- scenarie
- Videnskab
- syntes
- indstillinger
- skifte
- bør
- sider
- signifikant
- siden
- Smoking
- So
- sol
- Solar Power
- nogle
- noget
- Kilder
- særligt
- Spectrum
- Tilstand
- erklærede
- Statement
- udsagn
- Stater
- bestand
- Story
- styrke
- styrker
- Succesfuld
- systemisk
- Systemer
- Tag
- Opgaver
- hold
- prøve
- tests
- Holland
- deres
- selv
- ting
- denne uge
- tre
- tid
- til
- også
- værktøj
- værktøjer
- Emner
- traditionelt
- Trend
- trumf
- typisk
- typisk
- forstå
- Forenet
- Forenede Stater
- universitet
- University of Washington
- us
- brug
- brugere
- sædvanligvis
- visninger
- STEMMER
- stemte
- advarer
- washington
- måder
- uge
- Hvad
- som
- mens
- hvid
- WHO
- vilje
- villig
- visdom
- inden for
- uden
- kvinde
- Arbejde
- arbejder
- ville
- skriver
- Forkert
- år
- zephyrnet