AI の安全性において物理学者はどのような役割を果たすべきでしょうか? – 物理世界

今日も明日も、ロンドンの緑豊かな郊外にある邸宅が、世界の安全保障のために技術の進歩を導入するという世界的な取り組みの焦点となるのは、その歴史上 XNUMX 度目となります。 どこ アラン·チューリング 彼の暗号解読者チームはかつて第二次世界大戦中にファシズムを倒すのに苦労しました。 ブレッチレイパーク 現在、世界初のメジャー大会が開催されている AIセーフティサミット.

国際合意の必要性は、これ以上ないほど明白です。 古いことわざにあるように、戦争や紛争の時には、真実がまだ靴を履いている間に、嘘は地球の裏側まで伝わることがあります。 しかし、今ではそれは単なる嘘ではありません。 誤った情報は複雑である可能性があり、ディープフェイクや画像やデータの操作には実際のリスクが伴います。 私たちは自分自身がパンドラの箱に相当するものを開けてしまったのではないかと心配します。

しかし、問題となっているのは政治以上のものだ。 AI は人類に多くの潜在的な利益をもたらします。 それは、医療の提供や農業の改善、気候変動の理解、都市の強化に役立つ可能性があります。 それは、より良い、より豊かな社会への力になる可能性がありますが、これが誰にとってどのように機能するのか疑問があります。

変化した世界

AI アプリを一度も使ってみて、設定したタスクに対する AI アプリの反応に衝撃を受けたことのない人は、今ではほとんどいないでしょう。 私たちのほとんどは、AI が人々から仕事をどのように奪うのかについて聞いたこともあり、AI の風とともに私たちの役割がなくなるのではないかと疑問に思っています。

祝賀と恐怖が入り混じった形で迎えられる新技術はこれが初めてではない。 物理学を利用したテクノロジーは、機械、電気、原子などの連続した経済革命を推進し、大きな機会と繁栄をもたらしましたが、重大なリスク、変化、破壊ももたらしました。そのいくつかは私が直接経験しました。

AI という現象は、科学者と非科学者の両方の心を当然のように鍛えています。 アメリカ合衆国で、 飛飛里 – 「AI のゴッドマザー」とも呼ばれるスタンフォード大学のコンピューター科学者 – は、人間中心のコンピューティングと公共の利益のための AI の使用を長年擁護してきました。 ここイギリスでは、 エイダラブレスインスティテュート は、AI の倫理的影響が適切に考慮されるよう、産業界、公的機関、学界と協力しています。

しかし、物理学者にはこの変化の瞬間に特別な貢献が必要です。 AI はコンピューターサイエンスに基づいている一方で、物理学がその開発と応用の中心となってきました。 何十年もの間、物理学者は AI の使用の先頭に立って、モデルを改善し、発見を行ってきました。多くの場合、防衛から材料科学、核分裂や核融合に至るまで、非常にデリケートな分野での研究が行われてきました。

したがって、物理学者は、サミットで検討されている重要な問題のいくつかについて、現実の経験を持っています。 アルゴリズムの透明性、説明可能性、抽象的な偏見については非常によく話されていますが、そのアルゴリズムが核融合炉の設計に役立つと、集中力が高まります。

大きな可能性を秘めたツール

最近で 調査 世論調査会社YouGovによると、英国の成人2086人のうち、74％が「AIが急速に超人的な能力に到達するのを防ぐ」ことがAI政策の重要な目標であると感じており、反対するのはわずか13％だった。 しかし、AI に関連する恐怖や偏見は、増幅される情報源として私たち人間が提供したものにあることが多く、AI の適用に関するジレンマは、テクノロジーの変化と同じくらい人類の政治的または商業的本能と関係があります。 。

真実は、AI が可能性を拡大し、良くも悪くもプロセスをスピードアップするということです。 過去に何が起こったのかを知っていることに基づいて予測するため、私たちは今、莫大な利益が得られる可能性と、以前は想像もできなかった速度と規模で自分たちの社会的失敗を再現する可能性の両方に直面しています。

私たちがどのように支援できるかというと、政治的、財政的、国益を脇に置いて、あらゆる専門知識と多様性を持つ物理学コミュニティが団結して、すべての人にとって良い変化を生み出すことです。 しかし私たちは、疑問や可能性の変化に耳を傾け、学びたいとも思っています。 今年は 物理学研究所、私たちは新しい「インパクト プロジェクト」に着手する準備をしており、メンバーやより広範なコミュニティと協力して、物理学の文脈における AI の機会とリスクを調査し、クロスドメインの機会を調査し、政策立案者をサポートし、最終的にこのテクノロジーを活用することを目的としています。ポジティブな影響を与えるために。

次は何？

控えめに言っても、今後の道は不確実です。 どのような影響があるかについてほとんどわかっていない場合はどうすればよいでしょうか? これから起こる変化に私たちはどう対応すべきでしょうか？ 私たちは子供たちと、彼らが新しいテクノロジーを使って構築できる世界に焦点を当てる必要があります。 そして、バックグラウンドに関係なく、各ユーザーがアクセスできるようにする必要があります。

できるだけ多くの人が、最新のテクノロジーが自分たちの生活にどのような影響を与えるかを知る必要があると思います。そのため、できるだけ多くの国民に新しいテクノロジーへのアクセスを提供することが重要であると考えています。 このレースで何が、誰が勝者になるかについてはまだ決まっていませんが、明らかな危険は、それがお金に余裕のある人たちの領域になるということです。 この新しいテクノロジーを、必要なトレーニングとともに最も幅広い人々が利用できるようにして初めて、子供たちに最高の AI の未来を与えることができるのです。

チューリングテスト 2.0

ブレッチリーは、専門家が戦争の勝利に貢献した場所でした。 私たちの目標は、すべての人に平和と利益を確保することに貢献することです。 私たちは、ブレッチリーに参加するであろう大手テクノロジー企業や政治家、そして政治家がデスクに戻ったら開発の大変な仕事に取り組むであろう人々が、同じことを計画することを望んでいます。 私たちは、私たちの生活すべてに影響を与えるであろう技術革命において、自らの役割を果たす用意ができています。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://physicsworld.com/a/what-role-should-physicists-play-in-ai-safety/