ジョンP.デズモンド、AIトレンドエディター
最近の調査では、上級経営幹部がAIの非倫理的な使用を認めていることがあります。
公然と非倫理的であると認められたのは、データプライバシーについて250人以上の従業員を抱える企業の1,000人の取締役レベル以上の幹部を対象にKPMGが実施した最近の調査への回答者です。
回答者の約29%は、自社が「時には非倫理的」な個人情報を収集していることを認め、33%は、消費者が自社の個人データの使用方法について懸念する必要があると述べています。 ニューヨーカー.
その結果は調査対象者を驚かせた。 KPMGの米国プライバシーサービスチームのプリンシパルであるOrsonLucasは、次のように述べています。
成長している習慣のXNUMXつは、人に関する「すべてを収集」し、後でそれを使用する方法を理解するという動きです。 このアプローチは、顧客がビジネスから何を求めているかをよりよく理解する機会と見なされており、後で顧客が提供する情報とその期間について透明性のある交渉を行うことができます。
これらの企業のほとんどは、まだ透明性のある交渉段階に達していない。 インタビューを受けた幹部の約70%は、自社が過去62年間に収集した個人情報の量を増やしたと述べています。 また、XNUMX%が、自社はデータ保護対策を強化するためにより多くのことを行う必要があると述べています。
KPMGはまた、データプライバシーについて一般人口の2,000人の成人を調査し、40%が企業が個人情報を倫理的に振る舞うことを信頼していないことを発見しました。 ルーカスの見解では、消費者は個人データの使用に関する不公正な慣行を示すビジネスを罰したいと思うでしょう。
提出された論文のより広い倫理的レビューを検討するAI会議
一方、AIカンファレンスでは、AIテクノロジーが展示されており、非倫理的な使用の可能性にほとんど敏感ではない場合があります。また、このAIテクノロジーが商用製品に採用されることもあります。 たとえば、2019年のコンピュータビジョンとパターン認識に関するIEEE会議は、MITのコンピュータサイエンスとAI研究所の研究者から、その人が話している音声録音から人の顔を学ぶことに関する論文を受け入れました。
Speech2Faceと呼ばれるこのプロジェクトの目標は、話し方から人の外見に関する情報をどれだけ推測できるかを調査することでした。 研究者たちは、音声から顔の再構成のタスクを実行するために特別に設計されたニューラルネットワークアーキテクチャを提案しました。
AI倫理を研究しているGoogleのトランスジェンダーの女性で社会学者のAlexHannaは、ツイートを通じて研究の中止を求め、「トランスフォビア」と呼んでいた。 ハンナは、研究がアイデンティティを生物学に結びつけようとした方法に反対しました。 議論が続いた。 学術的な会議に提出された論文がさらに倫理的なレビューを必要とするかどうかを疑問視する人もいました。
ペンシルベニア大学のコンピューター科学者であり、本の共著者であるMichael Kearnsは、 「倫理的アルゴリズム" に述べた ニューヨーカー AIと機械学習の「マンハッタン計画のほんの少しの瞬間」にいること。 「この分野の学術研究は、社会に大規模に展開されてきました」と彼は述べました。 「それに伴い、このより高い責任が発生します。」
Speech2Faceに関する論文が、カナダのバンクーバーで開催された2019 Neural Information Processing Systems(Neurips)Conferenceに受理されました。 デューク大学のコンピューター科学者であり、多様性と包括性のためのNeurips共同議長であるキャサリン・ヘラーは、次のように語った。 ニューヨーカー 会議はその年に約1,400の論文を受け入れ、彼女は倫理の問題に関して同等の反発に直面したことを思い出せなかった。 「それは新しい領域です」と彼女は言いました。
2020年2020月に遠隔地で開催されたNeuripsXNUMXの場合、研究が社会に脅威を与えることが判明した場合、論文は却下されました。 ロンドンのGoogleDeepMindの研究科学者であるIasonGabrielは、会議の倫理審査プロセスのリーダーのXNUMX人であり、AIが「フィールドとして進歩する」ために変更が必要であると述べました。
倫理は、コンピュータサイエンスにとってやや新しい領域です。 生物学者、心理学者、および人類学者は、彼らの研究の倫理を問うレビューに使用されますが、コンピューター科学者はそのように育てられていません。 焦点は、盗作や利益相反などの方法にあります。
とはいえ、ここ数年でAIの倫理的な使用に関心のある多くのグループが生まれました。 たとえば、Association for ComputingMachineryのComputer-HumanInteractionに関するSpecialInterest Groupは、2016年にワーキンググループを立ち上げました。このワーキンググループは現在、会議プログラムの議長の要請に応じて論文をレビューすることを提案する倫理研究委員会です。 2019年には、主に調査方法に関する10件の問い合わせがありました。
「特にAIの分野では、この種の研究は問題になるべきかという疑問がますます高まっています。」 メリーランド大学の情報科学者で委員会の議長を務めるケイティ・シルトンは次のように述べています。 ニューヨーカー。
シルトンは、潜在的に非倫理的な影響の2つのカテゴリーを特定しました。 まず、顔認識、位置追跡、監視など、人口に対して「武器化」できるAI。 第二に、SpeechXNUMXFaceなどのテクノロジーは、性別や性的指向など、「人々を適切でないカテゴリに分類する」可能性があります。 第三に、自動兵器の研究。 第XNUMXに、偽のニュース、声、画像など、別の現実のセットを作成するために使用されるツール。
このグリーンフィールドの領域は、未知への冒険です。 コンピュータ科学者は通常、優れた技術的知識を持っています。「しかし、コンピュータサイエンスの多くの人々は、研究倫理の訓練を受けていません」とシルトン氏は述べ、一連の研究が存在すべきではないと言うのは簡単ではないと述べました。
カトリック司祭のために武器化された位置データ
位置追跡技術の兵器化は、Grindrの出会い系アプリのユーザーとして外出され、その後辞任したカトリックの司祭の最近の経験で十分に実証されました。 カトリックの司祭は独身の誓いを立てますが、それはあらゆる種類の出会い系アプリコミュニティにいることと矛盾します。
事件は倫理的な問題のパノラマを引き起こしました。 この話は、「ロケーションベースのフックアップアプリGrindrからアプリデータ信号」を何らかの方法で取得したPillarと呼ばれるカトリックの報道機関によって中断されました。 再コーディング Voxから。 出版物がどのようにして位置データを取得したかは、「データベンダー」からのものであると言う以外に明確ではありませんでした。
ExpressVPNのデジタルセキュリティラボの主任研究員であるSeanO'Brienは、次のように述べています。 再コーディングします。 「スマートフォンの監視に意味のある監視はありません。この場合に見られたプライバシーの乱用は、収益性が高く活況を呈している業界によって可能になっています。」
このビジネスのデータベンダーのXNUMXつは、X-Modeです。これは、数百のアプリの数百万のユーザーからデータを収集します。 のアカウントによると、同社は昨年、米国政府との国家安全保障活動をめぐってアップルとグーグルのプラットフォームをキックオフした。 ウォールストリートジャーナル。 ただし、同社はアトランタのDigital Envoy、Inc。に買収されており、Outlogicとしてブランド名が変更されます。 最高経営責任者のJoshuaAntonが、最高戦略責任者としてDigitalEnvoyに加わります。 購入価格は非公開。
X-Modeを取得することで、「サイバーセキュリティ、AI、詐欺、権利管理に関連するサービスをさらに強化することができます」とDigitalEnvoyのCEOであるJerrodStoller氏は述べています。 「これにより、両方のデータセットを活用する新しいソリューションを検討することで、この分野でイノベーションを起こすことができます。 そして、それはまた、新しいクライアントと新しい市場をもたらします。」
Digital Envoyは、ISPまたは携帯電話会社によって割り当てられたIPアドレスに基づいて、インターネットユーザーに関するデータを収集して顧客に提供することを専門としています。 データにはおおよそのジオロケーションを含めることができ、広告などの商用アプリケーションで役立つと言われています。
X-Modeは最近、XDKと呼ばれる視覚化アプリを廃止し、データのソース元に関する新しいガイダンスを追加することで慣行を変更しました。 技術的には。 2013年の創業以来、XNUMX度目のブランド変更となりました。 酔っ払いモードとして始まった.
買収後、Digital Envoyは声明の中で、新しい倫理規定、データ倫理審査委員会、機密性の高いアプリポリシーを追加し、最高プライバシー責任者を雇用すると述べました。
ソースの記事と情報を読む ニューヨーカーで 再コーディング Voxから、 ウォールストリートジャーナル または 技術的に.
- 000
- 2016
- 2019
- 2020
- 買収
- 広告運用
- AI
- アレックス
- Amazon
- 間で
- アプリ
- Apple
- アプリ
- 建築
- 周りに
- 物品
- アトランタ
- オーディオ
- オート
- 自動化
- 生物学
- ビット
- ビジネス
- カナダ
- 生じました
- 最高経営責任者(CEO)
- 変化する
- チーフ
- クライアント
- コード
- 収集
- コマーシャル
- コミュニティ
- 企業
- 会社
- コンピュータサイエンス
- Computer Vision
- コンピューティング
- 講演
- 会議
- 紛争
- 利害の対立
- 消費者
- クレジット
- Customers
- サイバーセキュリティ
- データ
- データ倫理
- データプライバシー
- データ保護
- 年代測定
- 議論
- ディープマインド
- DID
- デジタル
- 多様性
- 多様性と包摂
- デューク
- 社員
- 倫理
- エグゼクティブ
- 幹部
- 体験
- 顔
- 顔認識
- 向い
- 偽
- 偽のニュース
- フィギュア
- 発見
- 名
- フィット
- フォーカス
- 詐欺
- 未来
- 性別
- 良い
- でログイン
- 政府・公共機関
- グリーン
- グループ
- 成長
- 雇用
- 認定条件
- How To
- HTTPS
- 何百
- アイデンティティ
- IEEE
- 影響
- (株)
- 含めて
- 包含
- 産業を変えます
- 情報
- 相互作用
- 関心
- インターネット
- IP
- IPアドレス
- ISP
- 問題
- IT
- join
- 知識
- KPMG
- リーダーシップ
- 学習
- LINE
- 場所
- ロンドン
- 長い
- 機械学習
- 管理
- マーケット
- メリーランド
- 金属
- 国際セキュリティー
- ネットワーク
- ニューラル
- ニューラルネットワーク
- NeurIPS
- 新しいソリューション
- ニュース
- 提供すること
- オファー
- 役員
- 機会
- その他
- 紙素材
- パターン
- ペンシルベニア州
- のワークプ
- 個人データ
- 柱
- プラットフォーム
- 方針
- 人口
- ブランド
- 校長
- プライバシー
- 製品
- 演奏曲目
- プロジェクト
- 保護
- 購入
- 現実
- レポート
- 研究
- レビュー
- レビュー
- 科学
- 科学者たち
- セキュリティ
- サービス
- サイン
- スマートフォン
- 社会
- ソリューション
- スペース
- 専門にする
- スポンサー
- ステージ
- ステートメント
- 戦略
- ストリート
- 研究
- 提出された
- 監視
- Survey
- システム
- テク
- 技術的
- テクノロジー
- テクノロジー
- 未来
- ソース
- TIE
- 時間
- 追跡
- トレンド
- 信頼
- ツイート
- 大学
- メリーランド大学
- ペンシルベニア大学
- us
- 私たち政府
- users
- バンクーバー
- ベンチャー
- 詳しく見る
- ビジョン
- 可視化
- 声
- ウォール街
- ウォールストリートジャーナル
- ホワイトペーパー
- 誰
- 女性
- 仕事
- 年
- 年