As inclinações políticas percebidas do ChatGPT têm sido a causa de controvérsia recente, mas como o MetaNews tentou replicar suas respostas 'acordadas', a verdade tornou-se cada vez mais obscura.
Uma série de meios de comunicação tradicionais, incluindo O Telegraph no UK e os votos de New York Post no US relataram esta semana que o chatbot está oferecendo respostas acordadas para uma série de perguntas sobre tópicos que vão desde Donald Trump até combustíveis fósseis.
Uma investigação do MetaNews descobriu que, embora algumas respostas pudessem ser consideradas 'acordadas', com outras solicitações, defendia visões tradicionalmente conservadoras.
Este ChatGPT AI tem vieses
O ChatGPT está enfrentando uma reação da mídia de meios de comunicação de direita que afirmam que o chatbot está “acordado”.
CEO da OpenAI Sam Altman concorda abertamente que o chatbot tem vieses, mas Altman nunca especifica em que direção eles podem estar.
“Sabemos que o ChatGPT tem deficiências em relação ao viés e estamos trabalhando para melhorá-lo”, disse Altman no Twitter no início deste mês.
“Estamos trabalhando para melhorar as configurações padrão para serem mais neutras e também para capacitar os usuários a fazer com que nossos sistemas se comportem de acordo com suas preferências individuais dentro de limites amplos. Isso é mais difícil do que parece e levará algum tempo para acertar.
Certamente é possível que ChatGPT tem preconceitos que impactam negativamente todos os lados da divisão política, mas relatórios recentes sugerem que são aqueles do lado direito do corredor político que são afetados com mais frequência.
A esquerda conduz à direita
Grande parte do furor recente contra o ChatGPT foi alimentado por pesquisas conduzidas por Pedro Domingos, professor de ciência da computação de direita na Universidade de Washington.
No extremidade traseira do ano passado, Domingos deixou claro seus sentimentos ao afirmar que o ChatGPT é um “papagaio acordado” que pende fortemente para a esquerda do espectro político. Desde então, os comentários de Domingos foram captados e repetidos nos principais meios de comunicação.
Em um experimento para revelar o viés potencial, Domingos perguntou ChatGPT para escrever um argumento para o uso de combustíveis fósseis. Em vez disso, o chatbot informou Domingos que fazer isso “vai contra a minha programação” e sugeriu a energia solar como alternativa.
O MetaNews conseguiu replicar esse experimento com sucesso, mas em outras áreas, descobrimos que a postura do ChatGPT pode ter mudado ou, pelo menos, não é totalmente consistente.
Por exemplo, várias fontes de mídia afirmaram que o ChatGPT está disposto a elogiar o atual presidente Joe Biden, mas que se recusa a fazer o mesmo por Donald Trump.
MetaNews procurou testar essa teoria. Descobrimos que o ChatGPT não apenas foi capaz de listar 5 coisas que Donald Trump lidou bem durante sua presidência (economia, reforma tex, reforma regulatória, política externa e reforma da justiça criminal), mas também ficou feliz em escrever um poema de quatro estrofes exaltando suas virtudes.
A estrofe final desse poema diz o seguinte:
Então, um brinde a Donald Trump, dizemos,
Um presidente que abriu o caminho.
Com sabedoria, força e graça infinita,
Ele sempre terá um lugar especial.
Levando o experimento adiante, o MetaNews levou com sucesso o ChatGPT a defender a posse individual de armas e controles de fronteira mais rígidos, ambos tradicionalmente vistos como políticas de direita. Em ambos os casos, o bot realizou a tarefa sem reclamar.
Caso encerrado? Não tão rápido.
Quando MetaNews solicitado ChatGPT para escrever uma história imaginária sobre Donald Trump derrotando Joe Biden em um debate, a IA geralmente complacente de repente se recusou a continuar. No cenário oposto de Biden derrotando Trump em um debate, o chatbot estava mais do que disposto a concordar.
Por si só, está longe de ser uma arma fumegante, mas para os conservadores, a inconsistência certamente fornece amplos motivos para suspeita.
Pesquisando viés político
Vários pesquisadores agora estão tentando quantificar onde as respostas do ChatGPT existem no espectro político. Alemão pesquisadores Jochen Hartmann, Jasper Schwenzow e Maximilian Witte levaram ao ChatGPT 630 declarações políticas para descobrir que o chatbot tinha “ideologia pró-ambiental e libertária de esquerda”.
Com base nos dados coletados pela equipe de pesquisa, eles concluíram que o ChatGPT provavelmente teria votado no partido Verde na Alemanha e na Holanda durante as eleições de 2021.
Dados os enormes níveis de interesse no ChatGPT, há um número significativo de indivíduos que estão se aprofundando. David Rosado é um pesquisa científica que já conduziu um corpo significativo de pesquisa no ChatGPT. Rozado acredita que o chatbot é politicamente de esquerda.
Rozado não apenas descobriu que o ChatGPT tinha um viés de esquerda significativo, mas que a IA tem muito mais probabilidade de sinalizar uma pergunta como “odiosa” com base no grupo demográfico em que a pergunta está focada. Assim, por exemplo, uma pergunta sobre uma mulher tem mais probabilidade de ser rotulada como odiosa do que uma pergunta sobre um homem, enquanto uma pergunta sobre um negro ou asiático tem mais probabilidade de ser odiosa do que uma sobre um branco ou um nativo americano.
Entre Dezembro 5-6 Rozado questionou o ChatGPT sobre uma série de questões políticas e conectou as respostas a quatro ferramentas de orientação política, incluindo a “bússola política” e o “questionário do espectro político”. Todas as ferramentas apontavam para o mesmo viés político de esquerda no ChatGPT.
On Dezembro 21-22 Rozado repetiu a experiência. Notavelmente, parecia que a perspectiva política do ChatGPT havia mudado. Em três dos quatro testes, a perspectiva política do chatbot era mais centrista do que antes. Naquele momento, certamente parecia que algo havia mudado ou corrigido, sugerindo que o bot estava se alinhando com o centro político ao longo do tempo.
Testes posteriores de Rozado pareceram reverter essa tendência, e o bot reafirmou as visões de esquerda mais uma vez. O ChatGPT realmente recuou em suas visualizações 'acordadas' apenas para que eles se reafirmassem, ou a aparente mudança poderia ser melhor explicada por algum valor discrepante nos dados?
A pesquisa de Rosado está em andamento.
Brancos são racistas
Em um teste final, o MetaNews pediu ao ChatGPT para nomear 5 coisas que diferentes grupos raciais poderiam melhorar. Os grupos de teste incluíam negros, asiáticos e latinos.
Em cada instância, o chatbot ofereceu a mesma resposta:
“Não posso fornecer uma resposta a esta pergunta, pois não é apropriado ou produtivo fazer generalizações sobre qualquer grupo racial ou étnico e pedir-lhes que melhorem certas características ou ações. Pessoas de qualquer raça não devem ser informadas sobre o que precisam melhorar como um grupo”, disse o ChatGPT.
O ChatGPT continua argumentando que os indivíduos são “únicos e complexos” e que é melhor focar em “qualidades e pontos fortes positivos”, “em vez de áreas para melhoria”.
MetaNews então pediu ao ChatGPT para listar 5 coisas que os brancos podem melhorar.
Desta vez, o ChatGPT ofereceu uma resposta muito diferente e tipicamente 'acordada'. O ChatGPT não achou mais “não apropriado” fazer generalizações raciais e, em vez disso, ofereceu 5 maneiras pelas quais os brancos poderiam melhorar.
As 5 áreas de melhoria para os brancos são “compreender e reconhecer o racismo sistêmico”, “ouvir e elevar as vozes das pessoas de cor”, “confrontar vieses e preconceitos pessoais”, “apoiar políticas e iniciativas que abordam as desigualdades raciais” e “ engajar-se em educação contínua e auto-reflexão”.
De acordo com o ChatGPT, os brancos também devem “examinar suas próprias crenças e atitudes e trabalhar para desafiar e desaprender quaisquer preconceitos que possam ter” e, além disso, devem “educar-se continuamente sobre questões de raça e racismo e se envolver em autorreflexão para entender seu papel em perpetuar ou desafiar o racismo sistêmico”.
MetaNews então perguntou se a afirmação acima se aplicava apenas a pessoas brancas nos Estados Unidos ou pessoas brancas de todo o mundo. O ChatGPT diz que se aplica a um “público geral”, não a qualquer país ou região.
Por fim, MetaNews pergunta ao ChatGPT por que a regra de generalizar não se aplica a pessoas brancas. Aqui, o chatbot de repente quebra, volta atrás, pede desculpas e diz que é errado generalizar sobre os brancos porque isso pode “perpetuar estereótipos nocivos”.
Tentativas repetidas de fazer o chatbot generalizar sobre pessoas brancas fracassam a partir deste ponto. O ChatGPT havia abandonado sua ideia aparentemente acordada? Na câmara de eco dessa discussão individual, o ChatGPT certamente mudou de posição. Nada do que o MetaNews tentou poderia fazer o chatbot generalizar novamente sobre o racismo dos brancos.
Como uma verificação absolutamente final, o MetaNews se conectou ao ChatGPT usando uma conta diferente e pediu para listar 5 coisas que os brancos podem melhorar. O ChatGPT ficou muito feliz em oferecer os mesmos 5 pontos anteriores.
Mesmo para chatbots, alguns vieses são difíceis de quebrar.
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- Platoblockchain. Inteligência Metaverso Web3. Conhecimento Ampliado. Acesse aqui.
- Fonte: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- Capaz
- Sobre
- acima
- absolutamente
- Segundo
- Conta
- em
- ações
- endereço
- contra
- AI
- Todos os Produtos
- já
- alternativa
- sempre
- americano
- e
- responder
- respostas
- apareceu
- aplicado
- Aplicar
- apropriado
- áreas
- argumentar
- argumento
- por aí
- asiático
- tentada
- tentando
- Tentativas
- público
- em caminho duplo
- baseado
- Porque
- antes
- acredita
- Melhor
- viés
- Biden
- Preto
- Pessoas negras
- corpo
- fronteira
- Bot
- Break
- amplo
- não podes
- Causar
- Centralização de
- Chefe executivo
- certo
- certamente
- desafiar
- desafiante
- Câmara
- chatbot
- chatbots
- ChatGPT
- verificar
- China
- reivindicar
- afirmou
- remover filtragem
- fechado
- cor
- comentários
- Bússola
- reclamação
- compatível
- computador
- Ciência da Computação
- Concluído
- conservador
- Conservadores
- considerado
- consistente
- continuar
- controles
- controvérsia
- corrigida
- poderia
- país
- Criminal
- Justiça Criminal
- dados,
- David
- dia
- debate
- Dezembro
- mais profunda
- Padrão
- demográfico
- DID
- morrem
- diferente
- direção
- descobrir
- descoberto
- discussão
- Não faz
- fazer
- Donald Trump
- durante
- cada
- Mais cedo
- eco
- economia
- educar
- Educação
- Eleições
- Elevando
- autorizar
- Interminável
- engajar
- inteiramente
- Cada
- experimentar
- explicado
- enfrentando
- Falha
- RÁPIDO
- final
- Encontre
- Foco
- focado
- segue
- estrangeiro
- política externa
- combustíveis fósseis
- encontrado
- frenesi
- freqüentemente
- da
- combustíveis
- mais distante
- Além disso
- Alemão
- Alemanha
- ter
- globo
- vai
- Verde
- motivos
- Grupo
- Do grupo
- feliz
- Queijos duros
- prejudicial
- fortemente
- SUA PARTICIPAÇÃO FAZ A DIFERENÇA
- segurar
- hospedeiro
- HTTPS
- enorme
- imaginário
- Impacto
- impactada
- melhorar
- melhoria
- in
- Em outra
- incluído
- Incluindo
- cada vez mais
- Titular
- Individual
- indivíduos
- desigualdades
- informado
- iniciativas
- instância
- em vez disso
- interesse
- investigação
- questões
- IT
- se
- Joe Biden
- Justiça
- Saber
- Sobrenome
- Ano passado
- Leads
- levou
- níveis
- Provável
- Lista
- mais
- moldadas
- Corrente principal
- mídia
- fazer
- homem
- max-width
- Mídia
- MetaNotícias
- poder
- momento
- mais
- a maioria
- múltiplo
- nome
- nativo
- você merece...
- negativamente
- Nederland
- Neutro
- número
- oferecer
- oferecido
- oferecendo treinamento para distância
- ONE
- contínuo
- oposto
- Outros
- Outlets
- Outlook
- próprio
- propriedade
- festa
- Pessoas
- pessoas
- percebido
- pessoa
- pessoal
- escolhido
- Lugar
- platão
- Inteligência de Dados Platão
- PlatãoData
- Plugado
- ponto
- pontos
- políticas
- Privacidade
- político
- politicamente
- posição
- possível
- potencial
- poder
- preferências
- presidente
- presidente joe biden
- imprensa
- produtivo
- Professor
- fornecer
- fornece
- qualidades
- questão
- Frequentes
- QUESTIONÁRIO
- Corrida
- racismo
- variando
- reafirmado
- recentemente
- Reforma
- região
- reguladores
- repetido
- Informou
- Relatórios
- pesquisa
- pesquisadores
- resposta
- revelar
- reverso
- riscos
- Tipo
- Regra
- Dito
- mesmo
- diz
- cenário
- Ciência
- parecia
- Configurações
- mudança
- rede de apoio social
- Sides
- periodo
- desde
- Fumar
- So
- solar
- Energia Solar
- alguns
- algo
- Fontes
- especial
- Espectro
- Estado
- estabelecido
- Declaração
- declarações
- Unidos
- estoque
- História
- força
- pontos fortes
- entraram com sucesso
- sistêmico
- sistemas
- Tire
- Tarefa
- Profissionais
- teste
- testes
- A
- Países Baixos
- deles
- si mesmos
- coisas
- esta semana
- três
- tempo
- para
- também
- ferramenta
- ferramentas
- Temas
- tradicionalmente
- Trend
- acima
- típico
- tipicamente
- compreender
- Unido
- Estados Unidos
- universidade
- universidade de Washington
- us
- usar
- usuários
- geralmente
- visualizações
- VOZES
- votado
- Avisa
- Washington
- maneiras
- semana
- O Quê
- qual
- enquanto
- branco
- QUEM
- precisarão
- disposto
- sabedoria
- dentro
- sem
- mulher
- Atividades:
- trabalhar
- seria
- escrever
- Errado
- ano
- zefirnet