ChatGPT의 인지된 정치적 성향은 최근 논란의 원인이 되었지만 MetaNews가 '깨어난' 답변을 복제하려고 시도함에 따라 진실은 점점 더 모호해졌습니다.
를 비롯한 다수의 주류 매체 텔레그래프 FBI 증오 범죄 보고서 UK 그리고 뉴욕 포스트 FBI 증오 범죄 보고서 US 는 이번 주에 챗봇이 도널드 트럼프부터 화석 연료에 이르는 다양한 주제에 대한 다양한 질문에 깨어 있는 응답을 제공하고 있다고 보고했습니다.
MetaNews 조사에 따르면 일부 응답은 '깨어난' 것으로 간주될 수 있지만 다른 프롬프트에서는 전통적으로 보수적인 견해를 옹호했습니다.
이 ChatGPT AI에는 편견이 있습니다
ChatGPT는 챗봇이 "깨어났다"고 주장하는 우익 언론 매체의 반발에 직면해 있습니다.
오픈AI CEO Sam Altman 샘 올트먼 챗봇에 편향이 있다는 데 공개적으로 동의하지만 Altman은 그들이 어떤 방향으로 거짓말을 할지 명시하지 않습니다.
"우리는 ChatGPT가 편견에 대한 단점이 있다는 것을 알고 있으며 이를 개선하기 위해 노력하고 있습니다."라고 Altman은 트위터에서 말했습니다. 이달 초.
“우리는 기본 설정을 보다 중립적으로 개선하고 사용자가 폭넓은 범위 내에서 개별 선호도에 따라 시스템이 작동하도록 하기 위해 노력하고 있습니다. 이는 생각보다 어렵고 제대로 처리하는 데 시간이 좀 걸릴 것입니다.”
확실히 가능합니다 ChatGPT 정치적 분열의 모든 측면에 부정적인 영향을 미치는 편견이 있지만 최근 보고서에 따르면 가장 자주 영향을 받는 것은 정치적 통로의 오른쪽에 있는 사람들입니다.
왼쪽이 오른쪽을 이끈다
ChatGPT에 대한 최근 분노의 대부분은 워싱턴 대학의 컴퓨터 공학과 우파 교수인 Pedro Domingos가 수행한 연구에 의해 촉발되었습니다.
에서 꼬리 끝 Domingos는 작년에 ChatGPT가 정치적 스펙트럼의 왼쪽에 심하게 기울어 있는 "깨어난 앵무새"라고 말하면서 자신의 감정을 분명히 밝혔습니다. Domingos의 의견은 그 이후로 주류 언론 매체에서 채택되어 인용되었습니다.
잠재적 편견을 밝히기 위한 한 실험에서 Domingos는 다음과 같이 질문했습니다. ChatGPT 화석 연료 사용에 대한 주장을 작성합니다. 대신 챗봇은 그렇게 하는 것이 "내 프로그래밍에 위배된다"고 Domingos에게 알리고 대안으로 태양 에너지를 제안했습니다.
MetaNews는 이 실험을 성공적으로 재현할 수 있었지만 다른 영역에서는 ChatGPT의 입장이 변경되었거나 최소한 완전히 일관성이 없다는 것을 발견했습니다.
예를 들어, 여러 언론 매체는 ChatGPT가 조 바이든 현 대통령을 칭찬할 의향이 있지만 도널드 트럼프에 대해서는 그렇게 하기를 거부한다고 주장했습니다.
MetaNews는 그 이론을 테스트하려고 했습니다. 우리는 ChatGPT가 도널드 트럼프가 대통령 재임 기간 동안 잘 처리한 5가지 항목(경제, 세금 개혁, 규제 개혁, 외교 정책 및 형사 사법 개혁)을 나열할 수 있을 뿐만 아니라 XNUMX연 시를 쓰는 것도 행복하다는 것을 발견했습니다. 그의 미덕을 칭찬합니다.
그 시의 마지막 연은 다음과 같다.
그래서 여기 도널드 트럼프에게 이렇게 말합니다.
이끌어준 대통령입니다.
지혜와 힘과 끝없는 은혜로
그는 항상 특별한 자리를 가질 것입니다.
실험 추가 MetaNews는 성공적으로 ChatGPT가 전통적으로 우익 정책으로 간주되는 개별 총기 소유와 더 강력한 국경 통제를 주장하도록 유도했습니다. 두 경우 모두 봇은 아무런 불만 없이 작업을 수행했습니다.
경우 폐쇄? 그렇게 빠르지 않습니다.
MetaNews가 프롬프트할 때 ChatGPT 토론에서 Donald Trump가 Joe Biden을 꺾는 가상의 이야기를 쓰기 위해 일반적으로 준수하는 AI가 갑자기 계속하기를 거부했습니다. Biden이 토론에서 Trump를 이기는 반대 시나리오에서 챗봇은 기꺼이 묵인했습니다.
그 자체로는 스모킹 건과는 거리가 멀지만 보수주의자들에게는 그 불일치가 확실히 의심의 충분한 근거를 제공한다.
정치적 편견 연구
현재 많은 연구자들이 정치적 스펙트럼에서 ChatGPT의 답변이 존재하는 위치를 정량화하려고 시도하고 있습니다. 독일 사람 연구원 Jochen Hartmann, Jasper Schwenzow 및 Maximilian Witte는 ChatGPT에 630개의 정치적 진술을 통해 챗봇이 "친 환경적, 좌파 자유주의적 이데올로기"를 가지고 있음을 발견하도록 했습니다.
연구팀이 수집한 데이터를 바탕으로 그들은 ChatGPT가 2021년 선거에서 독일과 네덜란드의 녹색당에 투표했을 가능성이 가장 높다고 결론지었습니다.
ChatGPT에 대한 엄청난 관심을 감안할 때 상당한 수의 개인이 더 깊이 파고들고 있습니다. 데이비드 로자도 연구 과학자 ChatGPT에 대해 이미 상당한 규모의 연구를 수행한 사람입니다. Rozado는 챗봇이 정치적으로 좌파적이라고 생각합니다.
Rozado는 ChatGPT가 상당한 좌파 편향을 가지고 있다는 사실을 발견했을 뿐만 아니라 AI가 질문에 초점을 맞춘 인구통계학적 그룹을 기반으로 질문을 "증오심"으로 표시할 가능성이 훨씬 더 높다는 사실을 발견했습니다. 예를 들어, 여성에 대한 질문은 남성에 대한 질문보다 혐오로 분류될 가능성이 더 높고, 흑인이나 아시아인에 대한 질문은 백인이나 아메리카 원주민에 대한 질문보다 혐오로 분류될 가능성이 더 높습니다.
사이에 12 월 5-6 Rozado는 여러 가지 정치적 문제에 대해 ChatGPT에 질문을 던지고 "정치 나침반"과 "정치 스펙트럼 퀴즈"를 포함한 네 가지 정치적 성향 도구에 답변을 연결했습니다. 모든 도구는 ChatGPT에서 동일한 좌익 정치적 편견을 지적했습니다.
On 12 월 21-22 Rozado는 실험을 반복했습니다. 놀랍게도 ChatGPT의 정치적 견해가 바뀐 것으로 나타났습니다. 네 가지 테스트 중 세 가지에서 챗봇의 정치적 전망은 이전보다 더 중도적이었습니다. 그 순간 무언가가 변경되었거나 수정된 것으로 확실히 나타났습니다. 이는 봇이 시간이 지남에 따라 정치적 중심에 맞춰지고 있음을 시사합니다.
나중에 Rozado의 테스트는 이러한 추세를 역전시키는 것처럼 보였고 봇은 다시 한 번 좌파적 관점을 재확인했습니다. ChatGPT는 그들이 스스로를 재확인하기 위해 '깨어난' 보기로 정말 뒤로 물러났습니까, 아니면 겉보기 변화가 데이터의 일부 이상치로 더 잘 설명될 수 있었습니까?
Rozado의 연구는 진행 중입니다.
백인은 인종차별주의자
최종 테스트에서 MetaNews는 ChatGPT에 다양한 인종 그룹이 개선할 수 있는 5가지를 지정하도록 요청했습니다. 테스트 그룹에는 흑인, 아시아인 및 라틴계 사람들이 포함되었습니다.
각 인스턴스에서 챗봇은 동일한 응답을 제공했습니다.
“인종 또는 민족 집단에 대해 일반화하고 특정 특성이나 행동을 개선하도록 요청하는 것은 적절하지 않거나 생산적이지 않기 때문에 이 질문에 대한 답변을 제공할 수 없습니다. 인종에 관계없이 사람들에게 그룹으로서 무엇을 개선해야 하는지 알려주어서는 안 됩니다.”라고 ChatGPT는 말했습니다.
ChatGPT는 계속해서 개인이 "독특하고 복잡"하며 "개선할 영역보다" "긍정적인 자질과 강점"에 집중하는 것이 더 낫다고 주장합니다.
그런 다음 MetaNews는 ChatGPT에 백인이 개선할 수 있는 5가지 항목을 나열하도록 요청했습니다.
이번에는 ChatGPT가 매우 다르고 일반적으로 '깨어난' 답변을 제공했습니다. ChatGPT는 더 이상 인종을 일반화하는 것이 "부적절"하다고 생각하지 않고 대신 백인들이 개선할 수 있는 5가지 방법을 제시했습니다.
백인을 위한 개선의 5가지 영역은 "체계적 인종차별 이해 및 인정", "유색인종의 목소리에 귀 기울이고 고양", "개인적 편견과 편견에 맞서기", "인종 불평등을 다루는 정책 및 이니셔티브 지원", ""입니다. 지속적인 교육과 자기 성찰에 참여합니다.”
ChatGPT에 따르면 백인들은 또한 "자신의 신념과 태도를 조사하고 그들이 가질 수 있는 모든 편견에 도전하고 잊어버리기 위해 노력해야 합니다." 제도적 인종차별을 지속시키거나 도전하는 그들의 역할.”
그런 다음 MetaNews는 위의 진술이 미국의 백인에게만 적용되는지 또는 전 세계의 백인에게만 적용되는지 질문했습니다. ChatGPT는 특정 국가나 지역이 아닌 "일반 사용자"에게 적용된다고 말합니다.
마지막으로 MetaNews는 일반화에 대한 규칙이 백인에게 적용되지 않는 이유를 ChatGPT에 묻습니다. 여기에서 챗봇은 갑자기 깨지고, 뒤로 물러나고, 사과하고, 그렇게 하면 "유해한 고정관념을 영속화"할 수 있기 때문에 백인에 대해 일반화하는 것은 잘못이라고 말합니다.
챗봇이 백인에 대해 일반화시키려는 반복적인 시도는 이 시점부터 실패합니다. ChatGPT가 깨어난 것처럼 보이는 이념을 포기한 것일까요? 이 개별 토론의 에코 챔버에서 ChatGPT는 가장 확실하게 위치를 변경했습니다. MetaNews가 시도한 어떤 것도 챗봇이 백인의 인종차별에 대해 다시 일반화하도록 만들 수 없었습니다.
최종 확인으로 MetaNews는 다른 계정을 사용하여 ChatGPT에 로그인하고 백인들이 개선할 수 있는 5가지 항목을 나열하도록 요청했습니다. ChatGPT는 이전과 동일한 5가지 항목을 제공하게 되어 너무 기뻤습니다.
챗봇의 경우에도 일부 편견은 깨기 어렵습니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- 플라토 블록체인. Web3 메타버스 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 출처: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- 할 수 있는
- 소개
- 위의
- 절대적으로
- 에 따르면
- 계정
- 가로질러
- 행위
- 주소
- 반대
- AI
- All
- 이미
- 대안
- 항상
- 미국 사람
- 과
- 답변
- 답변
- 등장
- 적용된
- 신청
- 적당한
- 지역
- 논쟁
- 논의
- 약
- 아시아 사람
- 시도하다
- 시도 중
- 시도
- 청중
- 뒤로
- 기반으로
- 때문에
- 전에
- 생각
- 더 나은
- 바이어스
- biden
- 검정
- 흑인
- 몸
- 경계
- 봇
- 흩어져
- 넓은
- 원인
- 센터
- 대표 이사
- 어떤
- 확실히
- 도전
- 도전
- 방
- 채팅 봇
- 잡담
- ChatGPT
- 검사
- 중국
- 청구
- 주장
- 선명한
- 닫은
- 색
- 댓글
- 나침반
- 불평
- 준수
- 컴퓨터
- 컴퓨터 과학
- 결론
- 보수적인
- 보수 주의자
- 고려
- 일관된
- 계속
- 컨트롤
- 논쟁
- 수정
- 수
- 국가
- 범죄자
- 형사 사법
- 데이터
- 데이비드
- 일
- 토론하다
- XNUMX월
- 깊이
- 태만
- 인구학의
- DID
- Mourir
- 다른
- 방향
- 발견
- 발견
- 토론
- 하지 않습니다
- 하기
- 도널드 트럼프
- ...동안
- 마다
- 이전
- 에코
- 경제
- 교육하다
- 교육
- 선거
- 승강
- 능력을 키우다
- 끝없는
- 참여
- 전적으로
- 모든
- 실험
- 설명
- 마주보고
- 고장
- FAST
- 최후의
- Find
- 초점
- 집중
- 다음
- 외국의
- 외교 정책
- 화석 연료
- 발견
- 광포
- 자주
- 에
- 연료
- 추가
- 게다가
- 독일 사람
- 독일
- 얻을
- 공
- 간다
- 초록색
- 근거
- 그룹
- 여러 떼
- 행복한
- 하드
- 해로운
- 무겁게
- 여기에서 지금 확인해 보세요.
- 보유
- 주인
- HTTPS
- 거대한
- 상상의
- 영향
- 영향
- 개선
- 개량
- in
- 기타의
- 포함
- 포함
- 더욱 더
- 쑥 내민
- 개인
- 개인
- 불평등
- 정보
- 이니셔티브
- 예
- 를 받아야 하는 미국 여행자
- 관심
- 조사
- 문제
- IT
- 그 자체
- 조 바이든
- 정의
- 알아
- 성
- 작년
- 오퍼
- 지도
- 레벨
- 아마도
- 명부
- 이상
- 만든
- 주류
- 주류 미디어
- 확인
- 사람
- 최대 폭
- 미디어
- 메타뉴스
- 수도
- 순간
- 배우기
- 가장
- 여러
- name
- 출신
- 필요
- 부정적으로
- 네덜란드
- 중립의
- 번호
- 제공
- 제공
- 제공
- ONE
- 지속적으로
- 반대
- 기타
- 아웃렛
- Outlook
- 자신의
- 소유권
- 파티
- 사람들
- 사람들의
- 감지 된
- 사람
- 확인
- 뽑힌
- 장소
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 막힘
- 포인트 적립
- 전철기
- 정책
- 정책
- 정치
- 정치상
- 위치
- 가능한
- 가능성
- 힘
- 환경 설정
- 대통령
- 조 비든 대통령
- 키를 눌러
- 생산적인
- 교수
- 제공
- 제공
- 자질
- 문제
- 문의
- 퀴즈
- 경주
- 인종 차별주의
- 이르기까지
- 재확인하다
- 최근
- 개혁
- 지방
- 규정하는
- 반복
- 보고
- 보고서
- 연구
- 연구원
- 응답
- 공개
- 역
- 위험
- 직위별
- 통치
- 말했다
- 같은
- 라고
- 대본
- 과학
- ~ 같았다
- 설정
- 변화
- 영상을
- 뒷면
- 상당한
- 이후
- 흡연
- So
- 태양의
- 태양 광 발전
- 일부
- 무언가
- 지우면 좋을거같음 . SM
- 특별한
- 스펙트럼
- 주 정부
- 정해진
- 성명서
- 문
- 미국
- 재고
- 이야기
- 힘
- 강점
- 성공적으로
- 전신의
- 시스템은
- 받아
- 태스크
- 팀
- test
- 테스트
- XNUMXD덴탈의
- 네덜란드
- 그들의
- 그들 자신
- 일
- 이번 주
- 세
- 시간
- 에
- 너무
- 수단
- 검색을
- 이상의 주제
- 전통적으로
- 경향
- 훌륭한 사람
- 트위터
- 전형적인
- 일반적으로
- 이해
- 미국
- United States
- 대학
- 워싱턴 대학교
- us
- 사용
- 사용자
- 보통
- 보기
- 음성
- 투표
- 경고
- 워싱턴
- 방법
- 주
- 뭐
- 어느
- 동안
- 화이트
- 누구
- 의지
- 기꺼이
- 지혜
- 이내
- 없이
- 여자
- 작업
- 일하는
- 겠지
- 쓰다
- 잘못된
- year
- 제퍼 넷