有毒な技術を人道的な技術に置き換えるのに遅すぎることはありません

プラトン再発行

フォロワー： 0

XNUMX年半前にNetflixがリリースされました 社会的ジレンマ, ソーシャルメディアの有害な結果を掘り下げたドキュメンタリードラマ。政治的二極化、誤報、および複数の人口統計にわたる不安および鬱病の上昇。トリスタン・ハリス、元Googleデザイン倫理学者であり、人道技術センター、は映画の中心人物です。でのセッションでサウスバイサウスウェスト今週、ハリスは、このテクノロジーとそれとの関係を健全な場所に導くために私たちが取るべきステップ、または彼が言うように、テクノロジーと私たちの未来を導くために必要な知恵について話しました。

ハリスは率生物学者からエドワード・O・ウィルソン、「人類の本当の問題は次のとおりです。旧石器時代の感情、中世の制度、そして神のような技術があります。そして、それはひどく危険であり、現在、全体として危機の段階に近づいています。」

言い換えれば、テクノロジーの進歩は速すぎて、私たちの脳がテクノロジーに追いついて健康的に相互作用する方法を知ることも、私たちの機関がテクノロジーを理解して賢明に規制することもできません。

ウィルソンは、2009年にハーバード自然史博物館で行われた討論会でこれらの言葉を話しました。つまり、InstagramやTiktokのようなプラットフォーム、またはディープフェイクやテキストジェネレーターのようなテクノロジーが広く採用される前は、 CRISPR、および人類を（良くも悪くも）変革する可能性のある他のイノベーション。

山の夕日から爆撃されたウクライナの建物まで、テキストに基づいてリアルな画像を生成できるアルゴリズムができました。我々は持っています GPT-3、mRNAワクチンは安全ではないと主張する説得力のある論文を書くことができ、文脈から外れて提示された実際の事実を引用しています。「これはインターネット上の信頼のための中性子爆弾のようなものです」とハリスは言いました。「そして、世界の複雑さは日々高まっています。」しかし、私たちの対応能力は一致していません。

過去には互いに分離していると考えられていた（または過去には存在しなかった）問題は、現在密接に関連しています。誤った情報と合成メディア核のエスカレーション（そして彼らがすでに選挙と民主主義に与えた影響）、または人工知能そしてグローバル財務リスク.

この新しい複雑さに直面して、テクノロジーの管理方法に関するこれまでの考え方は十分ではありません。複数のアクターが関与し、説明責任が低く、「正しい」ものの定義が異なる場合、プライバシーや言論の自由などの問題をどのように処理しますか？「テクノロジーは人類の知恵の能力を弱体化させてきました」とハリスは言いました。「個人だけでなく、必要な知恵を持って活動するための私たちの集合的な能力。」

知恵とは、私たちが実際に働く方法の限界を知り、自己認識と謙虚さを持ち、システムと根本原因の観点から考えることができることを意味すると彼は言いました。ハリスは本を参照しました システムで考える 環境科学者のドネラメドウズによるもので、彼女はシステムに介入するための12のレバレッジポイントを詳しく説明しています。つまり、システムの動作方法を現在の状態から別の状態に変更します。ハリスの意見では、メドウズの技術会話への最も関連性のあるポイントは、パラダイムを超越する力です。

私たちが今いる場所にたどり着いたテクノロジー業界の思考の各パラダイムは、人間中心の焦点によって見直されるべきです。常にコストとメリットがあると主張してテクノロジーの害をすくめるのではなく、有害な外部性を最小限に抑えることに焦点を当てる必要があります。ユーザーが望むものを提供するのではなく、人間の弱点や脆弱性を尊重する必要があります（たとえば、ソーシャルメディアプラットフォームが脳のドーパミン反応を利用する方法）。ユーザーに満足のいく体験を提供するためにパーソナライズを最大化する（独自の小さなエコーチャンバーを作成することとしても知られています）のではなく、共有された理解を作成するよう努める必要があります。

問題は、どうすればより多くの人々をソーシャルメディアやその他の技術の典型的なユーザーから、ハリスが人道的な技術者と呼ぶものに変えることができるかということです。

それは意識を高め、自分自身を教育することから始まります。ハリスと人道技術センターの彼のチームは、オンライン講座 Foundations of Humane Technologyと呼ばれ、登録者にXNUMXつの価値観中心の信条を提示します。これは、新しいテクノロジーを設計するとき（または既存のテクノロジーのデザインを変更するとき）に優先順位を付けると、個人としても相互接続されたコミュニティとしてのエクスペリエンスも向上させることができます。

「この新しいパラダイムの訓練を受けた100,000万人の人道的な技術者が欲しい」とハリス氏は語った。「これらの質問をしているのは自分だけだと感じるとき、これらのことについて考えるのは難しいです。」

私たちは、テクノロジーに取り組んでいる人々が共通の理解を生み出すのを助けることが重要であるという転換点にいます。世界はそれほど複雑で不安定になろうとはしていません。それどころか、ハリスは、気候変動、不平等、不安定な政治体制などの要因によって引き起こされる世界的な大災害が増加する時期に向かっていると予測しています。

取り組むことはたくさんあり、熟考することさえたくさんあります。しかし、ハリス氏は、過去数年間でシステムがかつてないほど速く変化するのを見て、希望を持っていると語った。元YouTubeエンジニアから、テクノロジー業界の人々が、作成を支援した製品のリスクと害について話しました。ギヨームシャスロット Facebookの共同創設者へクリスヒューズ元Facebookデータサイエンティストにフランシス・ハウゲン、などなど。「技術者たちは実際に目を覚まし、『業界の有毒な部分に参加したくない。より良い部分を構築するのを手伝いたい』と言っている」とハリス氏は語った。

ウィルソンの引用に戻ると、ハリスは次のことを提案しました。旧石器時代の感情を受け入れ、中世の制度をアップグレードし、神のような技術を行使するための知恵を持っている必要があります。私たちは世界を理解し、さまざまな側面の人々が集まって、私たちが取るべき行動に同意し、それから彼らをとることができる必要があります。人を分けることに依存するビジネスモデルのための場所があってはなりません。「私たちは、そのギャップを埋めるのを手伝ってくれるすべての人が必要です」とハリスは言いました。

画像のクレジット：ロディオン・クツァエフ on Unsplash

変化のペースを先取りする方法をお探しですか？何が可能かを考え直してください。 Singularityの主力エグゼクティブプログラム（EP）の高度にキュレートされた排他的な80人のエグゼクティブのコホートに参加してください。これは、既存の考え方を混乱させるXNUMX日間の完全に没入型のリーダーシップ変革プログラムです。世界の急速な変化の解決策を見つけることに取り組んでいる仲間の未来主義者の新しい考え方、ツールセット、ネットワークを発見してください。詳細を確認して今すぐ応募するには、ここをクリックしてください。

タイムスタンプ： 2022 年 3 月 14 日