By John P.Desmond, AI-trendit toimittaja
Etiikan edustajat jatkavat Googlen kanssa Samyn poistuessa Bengio, kanadalainen tietojenkäsittelytiede, joka tunnetaan nimellä perustaminen Google Brain, joka oli johtanut suurta joukkoa koneoppimisessa työskenteleviä tutkijoita.
Lähestyvä lähtö ilmoitettiin 6. huhtikuuta tililtä alkaen Bloomberg. Se seuraa useiden kollegoiden lähtöä, jotka kyseenalaistivat paperien tarkistamisen ja monimuotoisuuden käytännöt Googlessa. Berngion viimeinen päivä on 28. huhtikuuta; hän aloitti Googlen palveluksessa vuonna 2007.
Eroamista edelsi entisten Googlen eettisen tekoälyn johtajien Timnit Gebruin eroaminen (ks AI-trendit 10. joulukuuta 2020) ja Margaret Mitchell (raportoitu 19. helmikuuta), jotka molemmat olivat ilmoittaneet Bengioon.
Myöhemmin helmikuussa Google organisoi tutkimusyksikön uudelleen ja asetti jäljelle jääneet eettisen tekoälyn jäsenet tohtori Marian Croakin alaisuuteen, mikä vähensi Bengion vastuuta.
Bengio on kirjoittanut noin 250 tieteellistä artikkelia hermoverkoista, koneoppimisesta, syvällisestä oppimisesta, tilastoista, tietokoneesta ja luonnollisesta kielenkäsittelystä. DBLP, tietojenkäsittelytieteen bibliografian verkkosivusto.
"Vaikka odotan innolla seuraavaa haastetta, ei ole epäilystäkään siitä, että poistuminen tästä upeasta tiimistä on todella vaikeaa" Bengio kirjoitti sähköpostissa, jossa ilmoitti eroavansa Bloombergin mukaan. Hän ei viitannut Gebru, Mitchell, tai erimielisyydet, jotka johtivat heidän lähtemiseen. Google kieltäytyi kommentoimasta Bloombergia.
Kunnianosoitukset Samy Bengiolle
"Samy Bengion eroaminen on suuri menetys Googlelle", Tweeted El Mahdi El Mhamdi, Google Brainin tutkija, jonka mukaan Bengio auttoi rakentamaan "yhden alan perustavanlaatuisimmista tutkimusryhmistä Bell Labsin jälkeen ja myös yhden kannattavimmista".
"Olen oppinut kaikkien teidän kanssanne tietysti koneoppimisen tutkimuksesta, mutta myös siitä, kuinka vaikeaa, mutta tärkeää on järjestää suuri joukko tutkijoita edistämään pitkäjänteistä kunnianhimoista tutkimusta, etsintää, tarkkuutta, monimuotoisuutta, ja osallisuus " Bengio ilmoitti sähköpostissaan.
Vuonna XNUMX julkaistusta raportista Reuters, Andrew Ng, varhainen Brain-jäsen, joka johtaa ohjelmistokäynnistystä Landing AI, sanoi, että Bengio "on ollut tärkeä tekijä tekoälyn tekniikan ja etiikan eteenpäin viemisessä". Toinen perustajajäsen, Jeff Dean, valvoo nyt Googlen tuhansia tutkijoita.
Google Brain -tutkija Sara Hooker tweetissä kuvasi Bengion lähtöä "valtavaksi menetykseksi Googlelle".
Helmikuussa Google päästää irti henkilökuntatieteilijän Margaret Mitchellin väittäen siirtäneensä sähköisiä tiedostoja yrityksestä. Gebru lähti jälkeen kiistasta paperista, jonka hän oli lähettänyt konferenssiin suurten kielimallien eettisistä huolenaiheista. Mitchell on sanonut yrittäneensä "herättää huolta rodusta ja sukupuolten epätasa-arvosta ja puhua Googlen ongelmallisesta tohtori Gebruin ampumisesta", Reuters kertoi. Gebru on sanonut, että yritys halusi tukahduttaa kritiikkiään tuotteistaan. Google on sanonut hyväksyneensä hänen eroamistarjouksensa.
Bengio oli puolustanut paria, joka johti noin tusinan ihmisen tiimiä, joka tutkii tekoälyohjelmistoihin liittyviä eettisiä kysymyksiä. Joulukuussa Bengio kirjoitti Facebookissa hämmästyneenä siitä, että hänen johtama Gebru poistettiin yrityksestä ilman häntä kuulemasta, Reuters kertoi.
Google Brain -tutkija Nicolas Le Roux kertoi Reutersille, että Bengio on omistautunut tekemään tutkimusorganisaatiosta osallistavampaa ja "luonut tilan, jossa kaikki tuntevat olevansa tervetulleita".
Mitchell liittyi Googleen marraskuussa 2016, kun hän oli työskennellyt Microsoft Corp: n tutkimuslaboratoriossa, jossa hän työskenteli yrityksen Seeing AI -hankkeessa. Teknologia auttoi sokeita käyttäjiä "visualisoimaan" ympäröivää maailmaa, jota toimitusjohtaja Satya Nadella vahvasti mainosti. . Googlessa hän perusti eettisen tekoälyn tiimin vuonna 2017 ja työskenteli projekteissa, joihin sisältyi tapa selittää, mitä koneoppimismallit tekevät ja niiden rajoitukset sekä miten koneoppimisaineistoista voidaan tehdä vastuullisempia ja avoimempia. Liiketoiminnan Maverick.
Suuret teknologiayritykset muodostavat keskustelun eettisestä tekoälystä
Googlen PR-sulaminen eettisen tekoälyn ympärillä on muistutus siitä, missä määrin kourallinen jättiläisiä yrityksiä-Big Tech-osaa ohjata keskustelua eettisen tekoälyn ympärille, ehdotti äskettäin julkaistu tili Fast Company. Keskustelua kehitetään korkeiksi panoksiksi, ja tekoäly tukee monia tärkeitä automatisoituja järjestelmiä nykyään, luottopisteytyksestä ja rikosoikeudellisista rangaistuksista terveydenhuollon saatavuuteen ja saako työhaastattelu.
Todellisessa maailmassa käytettävät mallit voivat aiheuttaa haittaa syrjivissä palkkausjärjestelmissä, etnisiin vähemmistöryhmiin kohdistuvissa rodullisissa profilointialustoissa ja ennakoivissa poliisitoiminnoissa, jotka voivat olla rasistisia. Smustat miehet ovat nostaneet epäoikeudenmukaisia oikeusjuttuja, joiden mukaan heidät pidätettiin väärin sen jälkeen, kun lainvalvontaviranomaisten käyttämä kasvojentunnistustekniikka oli tunnistanut heidät väärin.
Kourallinen jättiläisiä yrityksiä määritä, mitkä ideat saavat taloudellista tukea, ja päättää, kuka saa olla huoneessa luoda ja kritisoida tekniikkaa.
Gebru ja Mitchell Googlen kokemukset osoittavat, että ei ole selvää, onko sisäisillä tekoälyn etiikan tutkijoilla paljon painoarvoa työnantajiensa kehittämässä. Jotkut tarkkailijat ehdottavat, että Big Techin investoinnit tekoälyetiikkaan ovat PR-liikkeitä. "Tämä on suurempi kuin vain Timnit", totesi Safiya Noble, UCLA: n professori ja perustaja ja apulaisjohtaja Internet-kriittisen tutkimuksen keskuksen. "Kyse on laajasti teollisuudesta, joka perustuu louhintaan ja hyödyntämiseen ja joka tekee kaiken voitavansa sen hämärtämiseksi."
Kysymyksiä tekoälyn etiikan "päättäjien" monimuotoisuudesta on myös nostettu esiin. Uusi analyysi vastuullisen tekoälyn parissa työskentelevistä 30 parhaasta organisaatiosta-mukaan lukien Stanford HAI, AI Now, Data & Society and Partnership on AI - osoittivat, että instituutioita johtavasta 94 ihmisestä kolme on mustia ja 24 naisia. Analyysin suoritti Women in AI Ethics, jota johtaa Mia Shah-Dand, entinen Googlen yhteisöryhmän johtaja.
Jotkut viittaavat siihen, että rajallinen monimuotoisuus johtaa katkaisuun tutkimuksen ja tekoälyn vaikuttamien yhteisöjen välillä. Tekoälyn etiikan tutkijat keskittyvät teknisiin tapoihin poistaa ennakkoluulot algoritmeista ja saavuttaa matemaattiset oikeudenmukaisuuden käsitteet. "Siitä tuli tietojenkäsittelytieteen ongelma-alue sen sijaan, että se olisi yhteydessä toisiinsa ja juurtunut maailmaan", totesi Emily Bender, Washingtonin yliopiston kielitieteen professori ja yhteistyökumppani Gebru kanssa "Stokastisten papukaijojen vaaroista". paperi, joka johti ongelmiin Googlessa.
Tohtori Marian Croak on Google Researchin uusi eettinen johtaja
Marian Croak kertoi omasta puolestaan, kuinka hän aikoo lähestyä uusia tehtäviään, äskettäin julkaistussa työtoverin haastattelussa. Ishayoiden opettaman Google Blog.
Tohtori Croak on insinööri, joka on työskennellyt monta vuotta AT&T Labsissa ennen kuin muutti Googleen noin seitsemän vuotta sitten. Hänet hyvitetään Voice over IP -kehittäjänä ja hän on ansainnut yli 200 patenttia. Google on keskittynyt palvelujen laajentamiseen kehittyville markkinoille. Yhdessä esimerkissä hän johti Wi-Fi-verkon käyttöönottoa Intian rautatiejärjestelmän yli äärimmäisten sääolojen ja suuren väestötiheyden vuoksi.
"Tämä kenttä, vastuullisen tekoälyn ja etiikan alue, on uusi", Croak totesi. ”Useimmissa instituutioissa on kehitetty vain periaatteita, ja ne ovat erittäin korkean tason abstrakteja periaatteita viimeisen viiden vuoden aikana. Näiden periaatteiden normatiivisten määritelmien standardoinnissa on paljon erimielisyyksiä, paljon ristiriitoja. Kenen oikeudenmukaisuuden tai turvallisuuden määritelmää aiomme käyttää? Kentällä on tällä hetkellä melko paljon konflikteja, ja se voi toisinaan polarisoitua. Ja mitä haluaisin tehdä, on saada ihmiset keskustelemaan diplomaattisemmin, ehkä kuin meillä on nyt, jotta voimme todella edistää tätä aluetta. "
Lue lähdeartikkelit ja tiedot alkaen Bloomberg, in Reuterssisään Liiketoiminnan Maverick, Fast Company ja Ishayoiden opettaman Google Blog.
- pääsy
- Tili
- AI
- algoritmit
- analyysi
- ilmoitti
- huhtikuu
- ALUE
- noin
- pidätetty
- artikkelit
- AT & T:
- auto
- Automatisoitu
- Soittokello
- Musta
- Bloomberg
- rakentaa
- kanadalainen
- Aiheuttaa
- haaste
- päällikkö
- toimitusjohtaja
- cofounder
- yhteisöjen
- yhteisö
- Yritykset
- yritys
- Tietojenkäsittelyoppi
- Tietokoneen visio
- Konferenssi
- konflikti
- jatkaa
- jatkuu
- Keskustelu
- Corp
- pisteitä
- Rikollinen
- tiedot
- päivä
- tekemisissä
- syvä oppiminen
- Kehittäjä
- DID
- riita
- Monimuotoisuus
- tusina
- Varhainen
- työnantajat
- insinööri
- Tekniikka
- etiikka
- johtaja
- laajeneminen
- Elämykset
- tutkimus
- uuttaminen
- kasvot
- Kasvojen tunnistustekniikka
- taloudellinen
- Keskittää
- Eteenpäin
- Sukupuoli
- Ryhmä
- pää
- terveydenhuollon
- Korkea
- Palkkaaminen
- Miten
- Miten
- HTTPS
- valtava
- lähestyvä
- Mukaan lukien
- sisällyttäminen
- Intia
- teollisuus
- laitokset
- Internet
- Haastatella
- Investoinnit
- IP
- kysymykset
- IT
- Job
- Labs
- Kieli
- suuri
- Laki
- lainvalvontaviranomaisten
- Oikeusjutut
- johtaa
- Johto
- johtava
- oppinut
- oppiminen
- Led
- rajallinen
- kielitiede
- Pitkät
- koneoppiminen
- Tekeminen
- markkinat
- Sulaminen
- Jäsenet
- Miehet
- Microsoft
- vähemmistö
- liikkua
- liikkuu
- Luonnollinen kieli
- Luonnollinen kielen käsittely
- verkot
- hermo-
- hermoverkkoihin
- kampanja
- upseeri
- Paperi
- Kumppanuus
- Patentit
- Ihmiset
- Platforms
- väestö
- pr
- Tuotteemme
- projekti
- hankkeet
- edistää
- Rotu
- Rotuprofilointi
- nostaa
- raportti
- tutkimus
- eroaminen
- Reuters
- Riski
- Turvallisuus
- Satya Nadella
- tiede
- So
- yhteiskunta
- Tuotteemme
- Tila
- Sponsored
- Stanford
- käynnistyksen
- tilasto
- toimitettu
- tuki
- järjestelmä
- järjestelmät
- teknologia
- Tekninen
- Elektroniikka
- Lähde
- ylin
- piipittää
- UCLA
- yliopisto
- washingtonin yliopisto
- Käyttäjät
- visio
- Ääni
- Washington
- Verkkosivu
- Whitepaper
- KUKA
- Wi-fi
- sisällä
- Naiset
- Referenssit
- maailman-
- vuotta