用人道技术取代有毒技术还为时不晚

由柏拉图重新发布

关注： 0

一年半前 Netflix 发布 社会困境, 一部深入挖掘社交媒体有害后果的纪录片。认为政治两极分化，传播误传，以及多个人口统计数据的焦虑和抑郁情绪上升。特里斯坦·哈里斯，前谷歌设计伦理学家和联合创始人人文技术中心，是影片的核心人物。在一个会话中西南偏南本周，哈里斯谈到了我们应该采取哪些步骤来让这项技术以及我们与它的关系走向一个健康的地方，或者正如他所说，我们需要智慧来引导技术和我们的未来。

哈里斯开场报价从生物学家爱德华·威尔逊，他说：“人类的真正问题如下：我们有旧石器时代的情感、中世纪的制度和神一般的技术。这是非常危险的，现在整体上已经接近危机点。”

换句话说，技术进步太快，我们的大脑无法跟上并知道如何健康地与之互动，或者我们的机构无法理解它并明智地对其进行监管。

2009 年，威尔逊在哈佛自然历史博物馆的一场辩论中说了这些话；也就是说，在 Instagram 和 Tiktok 等平台或 deepfakes、文本生成器等技术广泛采用之前， CRISPR，以及其他有可能改变人类（无论好坏）的创新。

我们现在拥有的算法可以根据文本生成逼真的图像，从山上的日落到乌克兰被炸毁的建筑物。我们有 GPT-3，这可能会写一篇令人信服的论文，认为 mRNA 疫苗不安全，引用的真实事实只是断章取义。哈里斯说：“这就像是互联网上信任的中子弹。” “而且世界的复杂性每天都在增加。” 然而，我们的反应能力并不匹配。

过去被认为彼此分开的问题（或过去不存在的问题）现在紧密相连；考虑错误信息和合成媒体可能对核升级（以及它们已经对选举和民主产生的影响）产生影响，或者两者之间的联系人工智能和全球的财务风险.

面对这种新的复杂性，我们之前关于如何管理技术的想法还不够好；当涉及多个参与者、问责制低、每个人对“正确”的定义不同时，我们如何处理隐私或言论自由等问题？ “技术一直在削弱人类的智慧能力，”哈里斯说。 “不仅仅是个人，而是我们以我们需要的智慧运作的集体能力。”

他说，智慧意味着了解我们实际工作方式的局限性，具有自我意识和谦逊的探究精神，以及能够从系统和根本原因的角度进行思考。哈里斯引用了这本书 系统思考 由环境科学家 Donella Meadows 撰写，她在其中详细介绍了干预系统的 12 个杠杆点——也就是说，将系统的工作方式从当前状态更改为其他状态。在哈里斯看来，梅多斯与科技对话最相关的观点是超越范式的力量。

科技行业中每一种让我们走到现在的思维范式都应该通过以人为本的焦点进行彻底改革。我们不应通过断言总是有成本和收益来摆脱技术的危害，而应该专注于将有害的外部性最小化。我们必须尊重人类的弱点和脆弱性，而不是给用户他们想要的东西（例如，社交媒体平台利用大脑多巴胺反应的方式）。与其最大化个性化来为用户提供令人满意的体验（也称为创建我们自己独特的小回音室），我们应该努力创造共同的理解。

问题是，我们如何让更多的人从社交媒体和其他技术的典型用户转变为哈里斯所说的人道技术专家？

首先是提高认识和教育我们自己。哈里斯和他在人道技术中心的团队创建了一个在线课程称为人道技术基础，它通过六个以价值为中心的原则来引导注册者，如果我们在设计新技术（或改变现有技术的设计）时优先考虑它们，可以改善我们个人和作为一个相互关联的社区的体验。

“我们希望有 100,000 名人道技术人员接受过这种新范式的培训，”哈里斯说。 “当你觉得自己是唯一一个提出这些问题的人时，很难去想这些事情。”

我们正处于一个转折点，对于那些从事技术工作的人来说，帮助建立共同理解至关重要；世界不会变得不那么复杂或不稳定。相反，哈里斯预测，我们正在进入一个由气候变化、不平等和不稳定的政治体制等因素推动的全球灾难不断增加的时期。

需要承担很多，甚至需要考虑很多。但是，哈里斯说，他有希望，因为他看到过去几年系统的变化比以往任何时候都快得多。来自科技行业的人已经从前 YouTube 工程师那里说出了他们帮助创造的产品的风险和危害纪尧姆·查斯洛特致 Facebook 联合创始人克里斯休斯前 Facebook 数据科学家弗朗西丝·豪根，还有很多。 “技术人员实际上正在醒来并说，'我不想参与这个行业的有毒部分，我想帮助建立一个更好的部分，'”哈里斯说。

回到威尔逊的名言，哈里斯提出以下建议：我们需要拥抱旧石器时代的情感，升级我们的中世纪制度，并拥有运用我们神一样的技术的智慧。我们需要能够理解世界，让来自不同方面的人们走到一起，就我们应该采取的行动达成一致——然后采取行动。不应该存在依赖于分裂人的商业模式。 “我们需要每个人都努力帮助我们缩小差距，”哈里斯说。

图片来源：罗迪翁·库察耶夫 on Unsplash

寻找保持领先变化步伐的方法？重新考虑什么是可能的。 加入一个由 80 名高管组成的高度策划的独家团队，参加 Singularity 的旗舰高管项目 (EP)，这是一个为期五天、完全沉浸式的领导力转型项目，颠覆了现有的思维方式。发现致力于为世界快速变化寻找解决方案的未来学家的新思维方式、工具集和网络。单击此处了解更多信息并立即申请！

时间戳记： 2022 年 3 月 14 日