Tekniikkayritykset allekirjoittivat avoimen kirjeen, jossa lupaavat vähentää tekoälyn riskejä

Tekniikkayritykset allekirjoittivat avoimen kirjeen, jossa lupaavat vähentää tekoälyn riskejä

Aikaleima: 7. maaliskuuta 2024 8
Lähdesolmu: 2509596

Tekniset johtajat, mukaan lukien OpenAI:n Sam Altman, yhdistävät voimansa Ron Conwayn avoimessa kirjeessä puolustaakseen vastuullista tekoälykehitystä tavoitteenaan tasapainottaa hyödyt ja yhteiskunnalliset riskit.

Teknologiateollisuuden viimeisin yritys ajaa vastuullista kehitystä tekoäly, OpenAI, Salesforce Inc. ja muut teknologiayritykset allekirjoittivat avoimen kirjeen, jossa korostetaan "kollektiivista vastuuta" "maksimoida tekoälyn hyötyjä ja lieventää riskejä" yhteiskunnalle.

Tekoälyn aiheuttamat riskit

Julkaisun jälkeen ChatGPT Viime vuonna ja tekoälysektorin suosion myötä monet alan toimijat ovat samanaikaisesti puolustaneet teknologian etuja ja herättäneet huolta sen merkittävistä riskeistä.

Lue myös: Yhdysvaltain tuomari sanoi, että Elon Muskin X voi menettää vihapuheen tapaus

Tekoälyjohtajat, mukaan lukien Altman, allekirjoittivat toukokuussa kirjeen, jossa varoitettiin, että tekoäly voi johtaa ihmiskunnan sukupuuttoon. Yritysjohtajien ryhmä totesi, että heidän kehittämänsä tekoälyteknologia voi jonakin päivänä olla yhtä vaarallinen ihmiskunnalle kuin ydinaseet ja pandemiat.

Mukaan selvitys Center for AI Safety totesi, että tekoälyn aiheuttaman sukupuuttoon kuolemisen riskin vähentämisen tulisi olla globaali prioriteetti muiden yhteiskunnallisten riskien, kuten pandemioiden ja ydinsodan, rinnalla. Yli 350 tekoälyn parissa työskentelevää johtajaa, tutkijaa ja insinööriä allekirjoitti kirjeen. Vetoomuksen allekirjoittivat kolmen suurimman tekoälyyrityksen huippujohtajat: Dario Amodei, Anthropicin toimitusjohtaja; Demis Hassabis, Google DeepMindin toimitusjohtaja; ja Sam Altman, OpenAI:n toimitusjohtaja.

Lausunnon allekirjoittaneiden joukossa oli alan tunnettuja tutkijoita, mukaan lukien Yoshua Bengio ja Geoffrey Hinton, kaksi kolmesta tutkijasta, jotka voittivat Turing-palkinnon työstään hermoverkkojen parissa ja joita kutsutaan usein nykyaikaisen tekoälyn "kummiseiksi". liikettä.

Ilmoitus tehtiin hetkellä, jolloin huoli tekoälyn mahdollisista haitoista lisääntyi. On huolestuttavaa, että tekoälyä (AI) voitaisiin pian käyttää laajassa mittakaavassa väärän tiedon ja propagandan levittämiseen tai että se voisi korvata miljoonia toimihenkilöitä ns. suurten kielimallien, eräänlaisen tekoälyn, viimeaikaisen kehityksen vuoksi. ChatGPT:n ja muiden chatbottien käyttämä järjestelmä.

SV Enkelin kirje

OpenAI Toimitusjohtaja Sam Altman ilmaisi innostuneisuutensa kirjeen hengestä sosiaalisessa mediassa X. Kirjeen aloitti pääomasijoittaja Ron Conway ja hänen yrityksensä SV Angel.

Altmanin mukaan "yksi suurimmista tekijöistä ihmisten elämänlaadun parantamisessa" tulee olemaan tekoälyn edistyminen. Kirjeessä mainittiin myös Hugging Face, Scale AI ja lukuisat muut startupit ja teknologiayritykset allekirjoittajina.

SV Angel -kirjeessä verrataan tekoälyn vaikutusta muihin teknologisiin edistysaskeliin, kuten painokoneeseen, polttomoottoriin, sähköön ja Internetiin. Kuten kirjeessä todetaan, "Ihmisen teot ja harkitseminen muokkaavat tasapainoa sen hyvien ja huonojen vaikutusten välillä ihmisiin." "Meidän kaikkien on tehtävä yhteistyötä tehdäksemme päätöksiä, jotka optimoivat tekoälyn edut ja vähentävät sen riskejä sekä nykyisille että tuleville sukupolville." Kirjeessä ei kuitenkaan käsitellä yksityiskohtaisesti, miten se tehdään.

Päiviä sen jälkeen Elon Musk haastoi OpenAI:n oikeuteen, tekoälyn markkinajohtaja, joka väitti startup-yrityksen rikkoneen perustamistehtäväänsä asettaessaan voittoa ihmiskunnan edun edelle, lähetettiin kirje. OpenAI ilmaisi sisäisessä muistiossa olevansa "kategorisesti eri mieltä" Muskin kanteen kanssa.

Aikaleima:

Lisää aiheesta MetaNews