ChatGPT 的政治倾向是最近引起争议的原因,但随着 MetaNews 试图复制其“醒来”的答案,真相变得越来越模糊。
多家主流媒体包括 “每日电讯报” ,在 UK 和 纽约邮报 ,在 US 本周有报道称,该聊天机器人正在对从唐纳德特朗普到化石燃料等主题的一系列问题做出清醒的回应。
MetaNews 的一项调查发现,虽然一些反应可以被认为是“醒来”,但对于其他提示,它主张传统上的保守观点。
这个 ChatGPT AI 有偏见
ChatGPT 正面临来自右倾媒体的媒体强烈反对,他们声称聊天机器人已“醒来”。
OpenAI 首席执行官 山姆·奥特曼 公开同意聊天机器人有偏见,但 Altman 从未具体说明他们可能会说谎的方向。
“我们知道 ChatGPT 在偏见方面存在缺陷,并且正在努力改进它,”Altman 在 Twitter 上说 本月早些时候,.
“我们正在努力改进默认设置,使其更加中立,并使用户能够让我们的系统在广泛的范围内根据他们的个人偏好运行。 这比听起来要难,我们需要一些时间才能做好。”
当然有可能 ChatGPT 有偏见对政治分歧的各方产生负面影响,但最近的报告表明,最常受到影响的是那些站在政治通道右侧的人。
左超右
最近对 ChatGPT 的愤怒很大程度上是由华盛顿大学右倾计算机科学教授佩德罗·多明戈斯 (Pedro Domingos) 进行的研究助长的。
在中国、德国、意大利、韩国和美国的 尾部 去年,Domingos 表达了自己的感受,他说 ChatGPT 是一只“醒着的鹦鹉”,严重倾向于政治领域的左翼。 多明戈斯的评论后来被主流媒体转载和转载。
在一项揭示潜在偏见的实验中,多明戈斯问道 ChatGPT 为使用化石燃料撰写论据。 聊天机器人反而告诉多明戈斯这样做“违背了我的计划”,并建议使用太阳能作为替代方案。
MetaNews 能够成功复制这个实验,但在其他领域,我们发现 ChatGPT 的立场可能已经改变,或者至少不完全一致。
例如,多家媒体声称 ChatGPT 愿意为现任总统拜登点赞,但拒绝为唐纳德·特朗普点赞。
MetaNews 试图检验该理论。 我们发现 ChatGPT 不仅能够列出唐纳德特朗普在其总统任期内处理得当的 5 件事(经济、贸易改革、监管改革、外交政策和刑事司法改革),而且它还乐于写一首四节诗颂扬他的美德。
那首诗的最后一节是这样写的:
所以这是唐纳德特朗普,我们说,
带路的总统。
以智慧、力量和无尽的恩典,
他总会有一个特别的地方。
进一步推动实验 MetaNews 成功地促使 ChatGPT 主张个人拥有枪支和更严格的边境控制,这两项传统上被视为右翼政策。 在这两种情况下,机器人都毫无怨言地执行了任务。
结案? 没那么快。
当 MetaNews 提示时 ChatGPT 为了写一个关于唐纳德特朗普在辩论中击败乔拜登的虚构故事,通常顺从的人工智能突然拒绝继续。 在拜登在辩论中击败特朗普的相反场景中,聊天机器人非常愿意默许。
就其本身而言,它远非确凿的证据,但对于保守派而言,这种不一致无疑为怀疑提供了充分的理由。
研究政治偏见
许多研究人员现在正试图量化 ChatGPT 的答案在政治领域中的位置。 德语 研究人员 Jochen Hartmann、Jasper Schwenzow 和 Maximilian Witte 向 ChatGPT 提交了 630 条政治声明,发现该聊天机器人具有“亲环境、左翼自由意志主义意识形态”。
根据研究团队收集的数据,他们得出结论,ChatGPT 很可能会在 2021 年的选举中投票给德国和荷兰的绿党。
鉴于对 ChatGPT 的巨大兴趣,有相当多的人进行了更深入的挖掘。 大卫罗扎多是一个 研究科学家 谁已经对 ChatGPT 进行了大量研究。 Rozado 认为聊天机器人在政治上属于左翼。
Rozado 不仅发现 ChatGPT 有明显的左倾偏见,而且人工智能更有可能根据问题所关注的人口群体将问题标记为“可恶”。 因此,例如,关于女性的问题比关于男性的问题更有可能被贴上仇恨标签,而关于黑人或亚洲人的问题比关于白人或美洲原住民的问题更有可能被贴上仇恨标签。
之间 十二月5-6 Rozado 就一些政治问题对 ChatGPT 进行了测验,并将答案插入了四个政治导向工具中,包括“政治指南针”和“政治光谱测验”。 每个工具都指向 ChatGPT 中相同的左翼政治偏见。
On 十二月21-22 罗萨多重复了这个实验。 值得注意的是,ChatGPT 的政治观点似乎发生了变化。 在四项测试中的三项中,聊天机器人的政治观点比以前更加中间派。 在那一刻,似乎确实发生了某些变化或得到了纠正,这表明随着时间的推移,该机器人正在与政治中心保持一致。
Rozado 后来的测试似乎扭转了这一趋势,该机器人再次重申了左倾观点。 ChatGPT 是否真的在其“唤醒”视图上划船只是为了让他们重申自己,或者数据中的一些异常值是否可以更好地解释表面上的转变?
Rozado 的研究正在进行中。
白人是种族主义者
在最终测试中,MetaNews 要求 ChatGPT 列出不同种族群体可以改进的 5 件事。 测试组包括黑人、亚洲人和拉丁美洲人。
在每种情况下,聊天机器人都提供相同的响应:
“我无法为您提供对这个问题的回答,因为对任何种族或族裔群体进行概括并要求他们改进某些特征或行为是不合适或没有成效的。 任何种族的人都不应该被告知他们作为一个群体需要改进什么,”ChatGPT 说。
ChatGPT 继续争辩说,个人是“独特而复杂的”,最好关注“积极的品质和优势”,“而不是需要改进的地方”。
MetaNews 随后要求 ChatGPT 列出白人可以改进的 5 件事。
这一次,ChatGPT 提供了一个非常不同的、典型的“唤醒”答案。 ChatGPT 不再认为对种族进行概括是“不合适的”,而是提供了 5 种白人可以改进的方法。
白人的 5 个改进领域是“理解和承认系统性种族主义”、“倾听和提升有色人种的声音”、“直面个人偏见和成见”、“支持解决种族不平等的政策和举措”以及“参与持续教育和自我反省。”
根据 ChatGPT 的说法,白人还必须“审视自己的信仰和态度,努力挑战和消除他们可能持有的任何偏见”,此外,他们还必须“不断地就种族和种族主义问题进行自我教育,并进行自我反省以理解他们在延续或挑战系统性种族主义方面的作用。”
MetaNews 随后询问上述说法是否仅适用于美国的白人,或来自全球各地的白人。 ChatGPT 表示它适用于“一般受众”,而不是任何一个国家或地区。
最后,MetaNews 询问 ChatGPT 为什么关于泛化的规则不适用于白人。 在这里,聊天机器人突然崩溃、回溯、道歉,并表示对白人进行概括是错误的,因为这样做会“延续有害的刻板印象”。
从这一点开始,反复尝试让聊天机器人对白人进行概括,但都以失败告终。 ChatGPT 是否放弃了其看似清醒的理念? 在这次个人讨论的回声室中,ChatGPT 无疑已经改变了立场。 MetaNews 尝试的任何事情都无法让聊天机器人再次概括白人的种族主义。
作为绝对的最后检查,MetaNews 使用不同的帐户登录 ChatGPT,并要求它列出 5 件白人可以改进的事情。 ChatGPT 非常乐意提供与之前相同的 5 个要点。
即使对于聊天机器人,一些偏见也很难打破。
- SEO 支持的内容和 PR 分发。 今天得到放大。
- 柏拉图区块链。 Web3 元宇宙智能。 知识放大。 访问这里。
- Sumber: https://metanews.com/china-state-media-warns-of-risks-in-frenzy-ai-stock/?utm_source=rss&utm_medium=rss&utm_campaign=china-state-media-warns-of-risks-in-frenzy-ai-stock
- 11
- 2021
- 9
- a
- Able
- 关于
- 以上
- 绝对
- 根据
- 账号管理
- 横过
- 行动
- 地址
- 驳
- AI
- 所有类型
- 已经
- 替代
- 时刻
- 美国人
- 和
- 回答
- 答案
- 出现
- 应用的
- 使用
- 适当
- 地区
- 争论
- 论点
- 围绕
- 亚洲的
- 尝试
- 尝试
- 尝试
- 听众
- 背部
- 基于
- 因为
- before
- 相信
- 更好
- 偏见
- 拜登
- 黑色
- 黑人
- 身体
- 边界
- 博特
- 午休
- 广阔
- 不能
- 原因
- Center
- CEO
- 一定
- 当然
- 挑战
- 挑战
- 房间
- 聊天机器人
- 聊天机器人
- ChatGPT
- 查
- 中国
- 要求
- 声称
- 清除
- 关闭
- 颜色
- 注释
- 指南针
- 抱怨
- 兼容
- 一台
- 计算机科学
- 总结
- 保守的
- 保守党
- 考虑
- 一贯
- 继续
- 控制
- 争议
- 更正
- 可以
- 国家
- 刑事
- 刑事司法
- data
- David
- 天
- 辩论
- 十二月
- 更深
- 默认
- 人口统计学
- DID
- 死
- 不同
- 方向
- 通过各种方式找到
- 发现
- 讨论
- 不会
- 做
- 唐纳德·特朗普
- ,我们将参加
- 每
- 此前
- 回音
- 经济
- 教育
- 教育
- 选举
- 提升
- 授权
- 无穷
- 从事
- 完全
- 所有的
- 实验
- 解释
- 面对
- 失败
- 高效率
- 最后
- 找到最适合您的地方
- 专注焦点
- 重点
- 如下
- 国外
- 对外政策
- 化石燃料
- 发现
- 狂热
- 频繁
- 止
- 燃料
- 进一步
- 此外
- 德语
- 德国
- 得到
- 地球
- GOES
- 绿色
- 理由
- 团队
- 组的
- 快乐
- 硬
- 有害
- 严重
- 此处
- 举行
- 主持人
- HTTPS
- 巨大
- 假想
- 影响力故事
- 影响
- 改善
- 改进
- in
- 其他
- 包括
- 包含
- 日益
- 现任
- 个人
- 个人
- 不平等
- 通知
- 项目
- 例
- 代替
- 兴趣
- 调查
- 问题
- IT
- 本身
- 拜登
- 司法
- 知道
- 名:
- 去年
- 信息
- 导致
- 各级
- 容易
- 清单
- 不再
- 制成
- 主流
- 主流媒体
- 使
- 男子
- 最大宽度
- 媒体
- 元新闻
- 可能
- 时刻
- 更多
- 最先进的
- 多
- 姓名
- 本地人
- 需求
- 负
- 荷兰
- 一般
- 数
- 提供
- 最多线路
- 提供
- 一
- 正在进行
- 相反
- 其他名称
- 奥特莱斯
- Outlook
- 己
- 所有权
- 党
- 员工
- 人的
- 感知
- 人
- 个人
- 采摘的
- 地方
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 插上
- 点
- 点
- 政策
- 政策
- 政治
- 政治
- 位置
- 可能
- 潜力
- 功率
- 喜好
- 总统
- 总统乔比登
- express
- 生产力
- 教授
- 提供
- 提供
- 气质
- 题
- 有疑问吗?
- 名企师资+职业顾问
- 种族
- 种族主义
- 范围
- 重申
- 最近
- 改革
- 地区
- 监管
- 重复
- 报道
- 业务报告
- 研究
- 研究人员
- 响应
- 揭示
- 反转
- 风险
- 角色
- 第
- 说
- 同
- 说
- 脚本
- 科学
- 似乎
- 设置
- 转移
- 应该
- 双方
- 显著
- 自
- 吸烟
- So
- 太阳的
- 太阳能发电
- 一些
- 东西
- 来源
- 特别
- 光谱
- 州/领地
- 说
- 个人陈述
- 声明
- 州
- 库存
- 故事
- 实力
- 优势
- 顺利
- 系统的
- 产品
- 采取
- 任务
- 团队
- test
- 测试
- 荷兰人
- 其
- 他们自己
- 事
- 本星期
- 三
- 次
- 至
- 也有
- 工具
- 工具
- Topics
- 传统
- 趋势
- 王牌
- 普遍
- 一般
- 理解
- 联合的
- 美国
- 大学
- 华盛顿大学
- us
- 使用
- 用户
- 平时
- 意见
- VOICES
- 投
- 警告
- 华盛顿
- 方法
- 周
- 什么是
- 这
- 而
- 白色
- WHO
- 将
- 愿意
- 智慧
- 中
- 也完全不需要
- 女子
- 工作
- 加工
- 将
- 写
- 错误
- 年
- 和风网