By John P Desmond, Tren AI editor
Ahli etika terus mondar-mandir di Google dengan kepergian Samy Bengio, seorang ilmuwan komputer Kanada yang terkenal salah satu pendiri Google Brain, yang telah memimpin sekelompok besar peneliti yang bekerja dalam pembelajaran mesin.
Keberangkatan yang akan datang diumumkan pada 6 April di akun dari Bloomberg. Ini mengikuti kepergian beberapa rekan yang mempertanyakan bagaimana makalah ditinjau dan praktik keragaman di Google. Berngio hari terakhir adalah 28 April; dia bergabung dengan Google pada tahun 2007.
Pengunduran diri tersebut didahului dengan pengunduran diri mantan pimpinan etis AI Google, Timnit Gebru (lihat Tren AI 10 Desember 2020) dan Margaret Mitchell (dilaporkan pada 19 Februari), yang keduanya telah melapor ke Bengio.
Kemudian di bulan Februari, Google mengatur ulang unit penelitian dan menempatkan anggota grup AI Etis yang tersisa di bawah Dr. Marian Croak, sebuah langkah yang mengurangi tanggung jawab Bengio.
Bengio telah menulis sekitar 250 makalah ilmiah tentang jaringan saraf, pembelajaran mesin, pembelajaran mendalam, statistik, visi komputer, dan pemrosesan bahasa alami, menurut DBLP, situs web bibliografi ilmu komputer.
"Sementara saya menantikan tantangan saya berikutnya, tidak ada keraguan bahwa meninggalkan tim yang luar biasa ini sangat sulit," Bengio menulis dalam email mengumumkan pengunduran dirinya, menurut Bloomberg. Dia tidak mengacu pada Gebru, Mitchell, atau ketidaksepakatan yang menyebabkan kepergian mereka. Google menolak berkomentar untuk Bloomberg.
Penghargaan untuk Samy Bengio
“Pengunduran diri Samy Bengio merupakan kerugian besar bagi Google,” tweeted El Mahdi El Mhamdi, seorang ilmuwan di Google Brain yang mengatakan bahwa Bengio membantu membangun "salah satu grup penelitian paling mendasar di industri ini sejak Bell Labs, dan juga salah satu yang paling menguntungkan".
“Saya belajar banyak dengan Anda semua, tentu saja dalam hal penelitian pembelajaran mesin, tetapi juga tentang betapa sulitnya namun penting untuk mengatur tim besar peneliti untuk mempromosikan penelitian ambisius jangka panjang, eksplorasi, ketelitian, keragaman, dan inklusi, " Bengio dinyatakan dalam emailnya.
Dari laporan di Reuters, Andrew Ng, anggota awal Brain yang sekarang menjalankan startup perangkat lunak Landing AI, mengatakan Bengio "telah berperan penting untuk memajukan teknologi dan etika AI." Anggota pendiri lainnya, Jeff Dean, sekarang mengawasi ribuan peneliti Google.
Peneliti Google Brain Sara Hooker dalam sebuah tweet menggambarkan kepergian Bengio sebagai "kerugian besar bagi Google."
Pada bulan Februari, Google melepaskan staf ilmuwan Margaret Mitchell setelah menuduh dia mentransfer file elektronik dari perusahaan. Kepergian Gebru menyusul perselisihan atas makalah yang dia kirimkan ke konferensi tentang masalah etika seputar model bahasa besar. Mitchell mengatakan dia mencoba "untuk meningkatkan kekhawatiran tentang ras dan ketidaksetaraan gender, dan berbicara tentang pemecatan Dr. Gebru yang bermasalah oleh Google," lapor Reuters. Gebru mengatakan perusahaan ingin menekan kritiknya terhadap produknya. Google telah mengatakan menerima tawarannya untuk mengundurkan diri.
Bengio membela pasangan tersebut, yang ikut memimpin tim beranggotakan sekitar selusin orang yang meneliti masalah etika terkait perangkat lunak AI. Pada bulan Desember, Bengio menulis di Facebook bahwa dia terkejut bahwa Gebru, yang dia kelola, dikeluarkan dari perusahaan tanpa dia berkonsultasi, Reuters melaporkan.
Nicolas Le Roux, seorang peneliti Google Brain, mengatakan kepada Reuters bahwa Bengio telah mengabdikan dirinya untuk membuat organisasi penelitian lebih inklusif dan "menciptakan ruang di mana semua orang merasa diterima."
Mitchell bergabung dengan Google pada November 2016 setelah bertugas di lab penelitian Microsoft Corp. di mana dia mengerjakan proyek Seeing AI milik perusahaan, sebuah teknologi untuk membantu pengguna tuna netra "memvisualisasikan" dunia di sekitar mereka yang dipromosikan dengan gencar oleh Chief Executive Officer Satya Nadella . Di Google, ia mendirikan tim AI Etis pada tahun 2017 dan mengerjakan proyek termasuk cara untuk menjelaskan apa yang dilakukan model pembelajaran mesin dan batasannya, dan cara membuat set data pembelajaran mesin lebih akuntabel dan transparan, menurut sebuah akun di Bisnis Maverick.
Perusahaan Teknologi Besar Membingkai Percakapan Tentang AI yang Etis
Kehancuran PR Google seputar etika AI merupakan pengingat sejauh mana segelintir perusahaan raksasa-Big Tech-dapat mengarahkan percakapan seputar AI yang etis, saran akun baru-baru ini di Cepat Perusahaan. Diskusi ini dibingkai sebagai taruhan tinggi, dengan AI mendukung banyak sistem otomatis penting saat ini, dari penilaian kredit dan hukuman pidana hingga akses perawatan kesehatan dan apakah seseorang mendapat wawancara kerja.
Kerusakan yang dapat ditimbulkan oleh model saat diterapkan di dunia nyata terlihat jelas dalam sistem perekrutan yang diskriminatif, platform profil rasial yang menargetkan kelompok etnis minoritas, dan dasbor kebijakan prediktif yang berisiko menjadi rasis. STuntutan hukum telah diajukan oleh orang kulit hitam yang mengatakan bahwa mereka ditangkap secara salah setelah salah diidentifikasi oleh teknologi pengenalan wajah yang digunakan oleh penegak hukum.
Beberapa perusahaan raksasa menentukan ide mana yang mendapat dukungan finansial, dan putuskan siapa yang akan berada di ruangan itu untuk menciptakan dan mengkritik teknologi.
Pengalaman Gebru dan Mitchell di Google menunjukkan bahwa tidak jelas apakah peneliti etika AI internal memiliki banyak pengaruh dalam pengembangan perusahaan mereka. Beberapa pengamat berpendapat bahwa investasi Big Tech dalam etika AI adalah gerakan PR. “Ini lebih besar dari sekedar Timnit,” kata Safiya Noble, profesor di UCLA dan salah satu pendiri dan direktur bersama dari Pusat Pertanyaan Internet Kritis. "Ini tentang industri secara luas yang didasarkan pada ekstraksi dan eksploitasi dan yang melakukan segala cara untuk mengaburkannya."
Pertanyaan tentang keragaman "penentu" etika AI juga sedang diangkat. Analisis baru dari 30 organisasi teratas yang mengerjakan AI yang bertanggung jawab-termasuk Stanford HAI, AI Now, Data & Society dan Partnership on AI - menunjukkan bahwa dari 94 orang yang memimpin institusi, tiga orang berkulit hitam dan 24 orang perempuan. Analisis dilakukan oleh Women in AI Ethics, dipimpin oleh Mia Shah-Dand, mantan manajer grup komunitas Google.
Beberapa menyarankan keragaman yang terbatas mengarah pada pemutusan hubungan antara penelitian dan komunitas yang terkena dampak AI. Peneliti etika AI fokus pada cara teknis menghilangkan bias dari algoritme dan mencapai gagasan matematika tentang keadilan. “Ini menjadi area masalah ilmu komputer, bukan sesuatu yang terhubung dan berakar di dunia,” kata Emily Bender, profesor linguistik di University of Washington dan rekan penulis Gebru untuk “On the Dangers of Stochastic Parrots,” makalah yang menyebabkan masalah di Google.
Dr. Marian Croak adalah Pemimpin Etika Baru di Google Research
Berbicara untuk dirinya sendiri, Marian Croak menguraikan bagaimana dia berencana untuk mendekati tanggung jawab barunya, dalam sebuah wawancara dengan seorang rekan kerja yang diterbitkan baru-baru ini di itu Google Blog.
Dr. Croak adalah seorang insinyur yang bekerja selama bertahun-tahun di AT&T Labs sebelum pindah ke Google sekitar tujuh tahun yang lalu. Dia dikreditkan sebagai pengembang Voice over IP dan telah mendapatkan lebih dari 200 paten. Di Google, dia berkonsentrasi pada perluasan layanan ke pasar negara berkembang. Dalam satu contoh, dia memimpin penerapan Wi-Fi di seluruh sistem kereta api di India, menangani cuaca ekstrem dan kepadatan penduduk yang tinggi.
"Bidang ini, bidang AI dan etika yang bertanggung jawab, masih baru," kata Croak. “Sebagian besar institusi hanya mengembangkan prinsip, dan mereka adalah prinsip abstrak tingkat tinggi, dalam lima tahun terakhir. Ada banyak perselisihan, banyak konflik dalam hal mencoba untuk membakukan definisi normatif dari prinsip-prinsip ini. Definisi keadilan, atau keamanan siapa, yang akan kita gunakan? Ada cukup banyak konflik saat ini di dalam lapangan, dan terkadang bisa terpolarisasi. Dan yang ingin saya lakukan adalah membuat orang-orang melakukan percakapan dengan cara yang lebih diplomatis, mungkin, daripada yang kita lakukan sekarang, jadi kita benar-benar dapat memajukan bidang ini. ”
Baca artikel dan informasi sumber dari Bloomberg, in Reutersdi Bisnis Maverick, dalam Cepat Perusahaan dan itu Google Blog.
- mengakses
- Akun
- AI
- algoritma
- analisis
- mengumumkan
- April
- DAERAH
- sekitar
- ditangkap
- artikel
- AT & T
- mobil
- Otomatis
- Bel
- Black
- Bloomberg
- membangun
- Kanada
- Menyebabkan
- menantang
- kepala
- kepala eksekutif
- rekan pendiri
- Masyarakat
- masyarakat
- Perusahaan
- perusahaan
- Komputer Ilmu
- Visi Komputer
- Konferensi
- konflik
- terus
- terus
- Percakapan
- Corp
- kredit
- Pidana
- data
- hari
- berurusan
- belajar mendalam
- Pengembang
- MELAKUKAN
- Perselisihan
- Keragaman
- lusin
- Awal
- majikan
- insinyur
- Teknik
- etika
- eksekutif
- perluasan
- Pengalaman
- eksplorasi
- ekstraksi
- pengenalan wajah
- Teknologi Pengenalan Wajah
- keuangan
- Fokus
- Depan
- Gender
- Kelompok
- kepala
- kesehatan
- High
- Mempekerjakan
- Seterpercayaapakah Olymp Trade? Kesimpulan
- How To
- HTTPS
- besar
- mendatang
- Termasuk
- penyertaan
- India
- industri
- lembaga
- Internet
- Wawancara
- Investasi
- IP
- masalah
- IT
- Pekerjaan
- Labs
- bahasa
- besar
- Hukum
- penegakan hukum
- gugatan
- memimpin
- Kepemimpinan
- terkemuka
- belajar
- pengetahuan
- Dipimpin
- Terbatas
- ilmu bahasa
- Panjang
- Mesin belajar
- Membuat
- pasar
- Meltdown
- Anggota
- Pria
- Microsoft
- minoritas
- pindah
- bergerak
- Bahasa Alami
- Pengolahan Bahasa alami
- jaringan
- saraf
- jaringan saraf
- menawarkan
- Petugas
- kertas
- Kemitraan
- Paten
- Konsultan Ahli
- Platform
- populasi
- pr
- Produk
- proyek
- memprojeksikan
- mendorong
- Ras
- Profil Rasial
- menaikkan
- melaporkan
- penelitian
- Pengunduran diri
- Reuters
- Risiko
- Safety/keselamatan
- Satya Nadella
- Ilmu
- So
- Masyarakat
- Perangkat lunak
- Space
- Disponsori
- Stanford
- startup
- statistika
- disampaikan
- mendukung
- sistem
- sistem
- tech
- Teknis
- Teknologi
- Sumber
- puncak
- menciak
- ucla
- universitas
- universitas washington
- Pengguna
- penglihatan
- Suara
- Washington
- Situs Web
- Whitepaper
- SIAPA
- Wi-fi
- dalam
- Wanita
- Kerja
- dunia
- tahun