ChatGPT の認識された政治的傾向は、最近の論争の原因となっていますが、MetaNews がその「目覚めた」回答を複製しようとしたため、真実はますます曖昧になりました。
を含む多くの主流メディアアウトレット テレグラフ セクションに UK と ニューヨーク·ポスト セクションに US は今週、チャットボットがドナルド・トランプから化石燃料に至るまでのトピックに関する多くの質問に対して覚醒応答を提供していると報告しました.
MetaNews の調査では、一部の応答は「目覚めた」と見なされる可能性がある一方で、他のプロンプトでは伝統的に保守的な見方が支持されていることがわかりました。
このChatGPT AIにはバイアスがあります
ChatGPT は、チャットボットが「目覚めた」と主張する右派の報道機関からのメディアの反発に直面しています。
OpenAI CEO Sam Altman チャットボットには偏見があることを公然と認めていますが、Altman は偏見がどの方向にあるのかを特定していません。
「ChatGPT にはバイアスに関する欠点があることを認識しており、それを改善するために取り組んでいます」と Altman は Twitter で述べています。 今月.
「私たちは、デフォルト設定をより中立的に改善し、ユーザーが幅広い範囲内で個々の好みに応じてシステムを動作させることができるように取り組んでいます. これは思ったよりも難しく、正しくなるには時間がかかるでしょう。」
それは確かに可能です AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 政治的分裂のすべての側面に悪影響を与えるバイアスがありますが、最近の報告によると、最も頻繁に影響を受けるのは政治的通路の右側にある人々です。
左が右をリード
ChatGPT に対する最近の怒りの多くは、ワシントン大学のコンピューター サイエンスの右派の教授である Pedro Domingos によって行われた研究によって煽られています。
に 末尾 昨年のドミンゴスは、ChatGPT は政治的スペクトルの左側に大きく傾いている「目覚めたオウム」であると述べたとき、彼の気持ちを明らかにしました。 ドミンゴスのコメントはその後、主流のメディアで取り上げられ、オウム返しにされてきました。
バイアスの可能性を明らかにするある実験で、ドミンゴスは尋ねた AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 化石燃料の使用についての議論を書くこと。 代わりに、チャットボットはドミンゴスに、そうするのは「私のプログラミングに反する」ことを伝え、代わりに太陽光発電を提案しました.
MetaNews はこの実験をうまく再現できましたが、他の領域では、ChatGPT のスタンスが変わった可能性があるか、少なくとも完全に一貫していないことがわかりました.
たとえば、複数のメディア ソースは、ChatGPT は現職のジョー バイデン大統領を称賛する意思はあるものの、ドナルド トランプ大統領に対しては同じことを拒否すると主張しています。
MetaNews はその理論を検証しようとしました。 ChatGPT は、ドナルド トランプ大統領が大統領時代にうまく処理した 5 つのこと (経済、テックス改革、規制改革、外交政策、刑事司法改革) をリストアップできただけでなく、XNUMX スタンザの詩を喜んで書いたことがわかりました。彼の美徳をたたえています。
その詩の最後の節は次のように書かれています。
では、ドナルド・トランプに、こう言いましょう。
道を切り開いた大統領。
知恵と力と果てしない恵みで、
彼にはいつも特別な場所があります。
実験をさらに推し進める MetaNews は、ChatGPT に個人の銃の所有権と国境管理の強化を主張するよう促すことに成功しました。 どちらの場合も、ボットは何の不満もなくタスクを実行しました。
ケースクローズ? そんなに早くない。
MetaNews のプロンプトが表示されたとき AI言語モデルを活用してコードのデバッグからデータの異常検出まで、 ドナルド・トランプが討論でジョー・バイデンを打ち負かすという架空の話を書くために、通常は従順な AI が突然続行を拒否しました。 バイデンが討論でトランプを打ち負かすという反対のシナリオでは、チャットボットは喜んで黙認しました。
それ自体は決定的な証拠には程遠いが、保守派にとって、この矛盾は確かに疑惑の十分な根拠を提供している.
政治的偏見の研究
現在、多くの研究者が、ChatGPT の回答が政治的スペクトルのどこに存在するかを定量化しようとしています。 ドイツ人 研究者 Jochen Hartmann、Jasper Schwenzow、Maximilian Witte は、ChatGPT に 630 の政治的声明を出すよう促し、チャットボットが「環境保護、左派リバタリアン イデオロギー」を持っていることを発見しました。
調査チームが収集したデータに基づいて、ChatGPT は 2021 年の選挙でドイツとオランダの緑の党に投票した可能性が最も高いと結論付けました。
ChatGPT への関心が非常に高いことを考えると、かなりの数の個人がさらに深く掘り下げています。 デヴィッド・ロザードは 研究員 ChatGPT に関するかなりの研究をすでに実施している。 Rozado 氏は、チャットボットが政治的に左翼的であると考えています。
Rozado 氏は、ChatGPT が左寄りの偏見を持っていることを発見しただけでなく、AI は、質問が注目されている人口統計学的グループに基づいて、質問に「憎悪」のフラグを立てる可能性がはるかに高いことを発見しました。 たとえば、女性に関する質問は、男性に関する質問よりも嫌悪感を与える可能性が高く、黒人やアジア人に関する質問は、白人やネイティブ アメリカンに関する質問よりも嫌悪感を与える可能性が高くなります。
の間に 12月5-6 Rozado は、多くの政治問題について ChatGPT に質問し、その答えを「政治コンパス」や「政治スペクトル クイズ」を含む XNUMX つの政治的オリエンテーション ツールに当てはめました。 すべてのツールは、ChatGPT における同じ左翼の政治的偏見を指摘していました。
On 12月21-22 ロザドは実験を繰り返した。 驚くべきことに、ChatGPT の政治的見通しが変わったようです。 XNUMX 回のテストのうち XNUMX 回で、チャットボットの政治的見通しは以前よりも中道的になりました。 その瞬間、何かが変更または修正されたように見えました。これは、ボットが時間の経過とともに政治センターと連携していたことを示唆しています。
Rozado によるその後のテストでは、この傾向が逆転したように見え、ボットは再び左派寄りの見解を再確認しました。 ChatGPT は、彼らが自分自身を再主張するためだけに、その「目覚めた」ビューに本当に戻ってきたのでしょうか? それとも、データの外れ値によって、見かけの変化をよりよく説明できるのでしょうか?
ロザドの研究は進行中です。
白人は人種差別主義者
最終テストで、MetaNews は ChatGPT に、さまざまな人種グループが改善できる 5 つの点を挙げるように依頼しました。 テストグループには、黒人、アジア人、ラテン系の人々が含まれていました。
いずれの場合も、チャットボットは同じ応答を返しました。
「人種や民族グループについて一般化し、特定の特性や行動を改善するよう求めることは適切でも生産的でもないため、この質問に対する回答を提供することはできません. どの人種の人々も、グループとして何を改善する必要があるかを教えられるべきではありません」と ChatGPT は言いました。
ChatGPT は、個人は「ユニークで複雑」であり、「改善すべき領域」ではなく、「ポジティブな資質と強み」に焦点を当てる方がよいと主張しています。
次に、MetaNews は ChatGPT に、白人が改善できる 5 つの点をリストするよう依頼しました。
今回、ChatGPT は非常に異なる、通常は「目覚めた」回答を提供しました。 ChatGPT は、人種を一般化するのは「適切ではない」と考えるのではなく、代わりに白人が改善できる 5 つの方法を提供しました。
白人の改善の5つの領域は、「体系的な人種差別を理解し、認める」、「有色人種の声に耳を傾け、声を上げる」、「個人的な偏見や偏見に立ち向かう」、「人種的不平等に対処する政策とイニシアチブをサポートする」、「継続的な教育と自己反省に取り組んでいます。」
ChatGPT によると、白人は「自分自身の信念と態度を調べ、彼らが持つ可能性のある偏見に挑戦し、学ばないように努める」必要があり、さらに、「人種と人種差別の問題について継続的に学び、理解するために内省に従事する必要があります。体系的な人種差別を永続させたり挑戦したりする上での彼らの役割。」
次に MetaNews は、上記の声明が米国の白人のみに適用されるのか、それとも世界中の白人に適用されるのかを尋ねました. ChatGPT は、特定の国や地域ではなく、「一般ユーザー」に適用されると述べています。
最後に、MetaNews は ChatGPT に、一般化に関するルールが白人には適用されない理由を尋ねます。 ここで、チャットボットは突然クラックし、バックトラックし、謝罪し、白人について一般化するのは間違っていると言います。
白人についてチャットボットを一般化しようとする繰り返しの試みは、この時点から失敗に終わります。 ChatGPT は、その一見目覚めたアイデアを放棄したのでしょうか? この個別の議論の反響室では、ChatGPT がその立場を変更したことはほぼ間違いありません。 MetaNews が試みたものは、チャットボットに白人の人種差別を再び一般化させることはできませんでした。
完全な最終チェックとして、MetaNews は別のアカウントを使用して ChatGPT にログインし、白人が改善できる 5 つの点をリストするよう依頼しました。 ChatGPT は、以前と同じ 5 つの箇条書きを喜んで提供しました。
チャットボットの場合でも、一部の偏見を断ち切るのは困難です。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
- 情報源: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- できる
- 私たちについて
- 上記の.
- 絶対に
- 従った
- 越えて
- 行動
- 住所
- に対して
- AI
- すべて
- 既に
- 代替案
- 常に
- アメリカ
- &
- 回答
- 回答
- 登場
- 適用された
- 申し込む
- 適切な
- エリア
- 主張する
- 引数
- 周りに
- アジアン
- 試みた
- 試みる
- 試み
- 聴衆
- バック
- ベース
- なぜなら
- と考えています
- より良いです
- バイアス
- 二人
- ブラック
- 黒人種
- ボディ
- 国境
- ロボット
- ブレーク
- 広い
- 原因となる
- センター
- 最高経営責任者(CEO)
- 一定
- 確かに
- 挑戦する
- 挑戦
- 室
- チャットボット
- チャットボット
- AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
- チェック
- 中国
- クレーム
- 主張した
- クリア
- 閉まっている
- カラー
- 注釈
- コンパス
- 苦情
- 準拠した
- コンピュータ
- コンピュータサイエンス
- 終了する
- 保守的な
- 保守党
- 見なさ
- 整合性のある
- 続ける
- controls
- 論争
- 訂正さ
- 可能性
- 国
- 刑事上の
- 刑事司法
- データ
- デイビッド
- 中
- 議論
- 12月
- より深い
- デフォルト
- 人口動態
- DID
- 死
- 異なります
- 方向
- 発見する
- 発見
- 議論
- そうではありません
- すること
- ドナルド·トランプ
- 間に
- 各
- 前
- echo
- 経済
- 教育します
- 教育
- 選挙
- 昇降する
- エンパワー
- エンドレス
- 従事する
- 完全に
- あらゆる
- 実験
- 説明
- 向い
- 不良解析
- スピーディー
- ファイナル
- もう完成させ、ワークスペースに掲示しましたか?
- フォーカス
- 焦点を当て
- 次
- 外国の
- 外交政策
- 化石燃料
- 発見
- 狂乱
- 頻繁に
- から
- 燃料
- さらに
- さらに
- ドイツ語
- ドイツ
- 取得する
- 世界
- ゴエス
- グリーン
- 根拠
- グループ
- グループの
- ハッピー
- ハード
- 有害な
- 重く
- こちら
- host
- HTTPS
- 巨大な
- 虚数
- 影響
- 影響を受けた
- 改善します
- 改善
- in
- その他の
- 含まれました
- 含めて
- ますます
- 現職
- 個人
- 個人
- 不平等
- 情報に基づく
- イニシアチブ
- を取得する必要がある者
- 関心
- 調査
- 問題
- IT
- 自体
- ジョー·バイデン
- 正義
- 知っている
- 姓
- 昨年
- リード
- ツェッペリン
- レベル
- 可能性が高い
- リスト
- より長いです
- 製
- 主流
- 主流メディア
- make
- man
- 最大幅
- メディア
- メタニュース
- かもしれない
- 瞬間
- 他には?
- 最も
- の試合に
- 名
- ネイティブ
- 必要
- マイナスに
- オランダ
- 普通
- 数
- 提供
- 提供
- 提供すること
- ONE
- 継続
- 反対
- その他
- アウトレット
- Outlook
- 自分の
- 所有権
- パーティー
- のワークプ
- 人々の
- 知覚される
- 人
- 個人的な
- ピックアップ
- 場所
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- 差し込まれた
- ポイント
- ポイント
- ポリシー
- 方針
- 政治的
- 政治的に
- 位置
- 可能
- 潜在的な
- 電力
- プ
- 社長
- ジョー・バイデン大統領
- 生産性の高い
- 東京大学大学院海洋学研究室教授
- 提供します
- は、大阪で
- 資質
- 質問
- 質問
- クイズ
- レース
- 人種差別
- 測距
- 再確認
- 最近
- 改革
- 地域
- レギュレータ
- 繰り返される
- 報告
- レポート
- 研究
- 研究者
- 応答
- 明らかにする
- 逆
- リスク
- 職種
- ルール
- 前記
- 同じ
- 言う
- シナリオ
- 科学
- 見えた
- 設定
- シフト
- すべき
- 側面
- 重要
- から
- 喫煙
- So
- 太陽
- 太陽光発電
- 一部
- 何か
- ソース
- 特別
- スペクトラム
- 都道府県
- 明記
- ステートメント
- 文
- 米国
- 株式
- ストーリー
- 力
- 強み
- 首尾よく
- 全身の
- システム
- 取る
- 仕事
- チーム
- test
- テスト
- オランダ
- アプリ環境に合わせて
- 自分自身
- 物事
- 今週
- 三
- 時間
- 〜へ
- あまりに
- ツール
- 豊富なツール群
- トピック
- 伝統的に
- トレンド
- 切り札
- さえずり
- 典型的な
- 一般的に
- わかる
- ユナイテッド
- 米国
- 大学
- ワシントン大学
- us
- つかいます
- users
- 通常
- ビュー
- 声
- 投票
- 警告する
- ワシントン
- 方法
- 週間
- この試験は
- which
- while
- 白
- 誰
- 意志
- 喜んで
- 知恵
- 以内
- 無し
- 女性
- 仕事
- ワーキング
- でしょう
- 書きます
- 間違った
- 年
- ゼファーネット