Tarvitsemme kovia lakeja tekoälyn sotilaallisesta käytöstä

Julkaissut Platon

seuraajia: 0

Tekoälyn tuhoisa potentiaali on johtanut viimeaikaiseen hallintotoimintaan. Vain päiviä ennen Iso-Britannia isännöi tekoälyn turvallisuushuippukokousta 1.-2. marraskuuta, Bidenin hallinto ilmoitti toimeenpanomääräys "Turvallinen, suojattu ja luotettava tekoäly". Vaikka Yhdistyneen kuningaskunnan huippukokouksen tavoitteena oli keskittyä tekoälyn katastrofaalisiin riskeihin, Yhdysvaltojen toimet ovat keskittyneet konkreettisempiin kysymyksiin, kuten sen sotilaalliseen käyttöön.

Huippukokouksessa ollessaan Yhdysvaltain varapresidentti Kamala Harris ilmoitti useita uusia aloitteita, jotka käsittivät toimeenpanomääräyksen, kuten uusi AI Safety Institute. Mutta mikä tärkeintä, Harris ilmoitti myös, että 31 maata oli liittynyt Poliittinen julistus tekoälyn ja autonomian vastuullisesta sotilaallisesta käytöstä. Julistus julkistettiin ensimmäisen kerran Alankomaissa helmikuussa pidetyssä sotilasalan vastuullista tekoälyä käsittelevässä huippukokouksessa.

Julistuksen päivitys osoittaa Yhdysvaltojen sitoutuneen tähän pyrkimykseen ja kiinnittää huomion allekirjoittajaluetteloon, joka sisältää Yhdysvaltojen liittolaisia, kuten Kanadan, Australian ja Ranskan. Erityisesti puuttuvat kuitenkin Venäjä ja Kiina. Todennäköisyys, että jompikumpi valtio liittyy Yhdysvaltain johtamaan ponnisteluihin nykyisessä geopoliittisessa ilmapiirissä, on erittäin pieni.

Venäjä ei ollut tervetullut kumpaankaan huippukokoukseen ja on epätodennäköistä – sen kanssa meneillään oleva hyökkäys Ukrainaan – ottaa mukaan näihin keskusteluihin. Vaikka se kutsuttaisiin, Venäjä ei todennäköisesti allekirjoittaisi edes vapaaehtoisia asiakirjoja, koska se ei halua nähdä uusille teknologioille mitään sitovaa tai ei-sitovaa sääntelyä.

Kiina osallistui huippukokouksiin ja allekirjoitti kaksi ei-oikeudellisesti sitovaa asiakirjaa: "REAIM 2023 toimintakehotus”; ja "Bletchleyn julistus" sovittiin Ison-Britannian huippukokouksessa. Vaikka tämä on tärkeää jatkovuoropuhelun kannalta, se hämärtää suuremman esteen, jonka Kiina asettaa tekoälysääntelylle yleisesti – ja erityisesti tekoälyn sotilaallisille sovelluksille.

Vaikka Kiina tuskin on yhtä estävä kuin Venäjä on ollut monenvälisissä keskusteluissa autonomisista aseista, on selvää, että se hyväksyy vain ei-sitovat välineet ja ne, jotka ovat sen ehdoilla. Tämä tarkoittaa, että se ei todennäköisesti liity Yhdysvaltain poliittiseen julistukseen tekoälyn ja autonomian vastuullisesta sotilaallisesta käytöstä sen strategisten etujen vuoksi teknologian ja laajemman suhteen geopoliittinen kilpailu Yhdysvaltojen kanssa

Tämä oli selvää, kun se tuli viimeaikainen äänestys Yleiskokouksen ensimmäisen komitean kaikkien aikojen ensimmäisestä autonomisista aseista tehdystä päätöslauselmasta, jossa todetaan yleisesti, että valtiot tunnustavat, että on kiireesti puututtava asejärjestelmien kasvavaan autonomiaan ja käytävä lisää neuvotteluja. Päätöslauselman hyväksymisen puolesta äänesti 164, mutta Kiina pidättyi äänestämästä.

Kiinan pidättäytyminen korostaa, että se yrittää muokata mitä tahansa tulosta, mukaan lukien ponnistelujen viivyttäminen, kunnes ehdot ovat suotuisat sen tavoitteille. sotilaallinen AI ylivalta.

Vain kaksi valtiota äänesti päätöslauselmaa vastaan: Venäjä ja Intia.

Kumpikaan äänestys ei ole yllättävä, koska sekä Venäjä että Intia ovat vastustaneet YK:n tiettyjä tavanomaisia aseita koskevan yleissopimuksen tai CCW:n merkittävimpiä sääntelytoimia. Itse asiassa tämä foorumi on suurelta osin pysähtynyt, koska yksimielisyys on käsitelty yksimielisyytenä sekä Venäjän ja Intian vastustus.

Onko Kiinan, Venäjän ja Intian takaisku ylitsepääsemätön?

Vuosien aikana CCW:ssä autonomisista aseista käytyjen keskustelujen aikana on käynyt selväksi, että liittolaiset, jotka keskustelevat liittolaisten kanssa, eivät ota vastaan enemmän vastustajavaltioita tai valtioita, jotka olisivat vastustajia ensisijaisesti Yhdysvalloille ja sen liittolaisille.

Kiinan liittyminen joihinkin näistä keskusteluista on tervetullutta. Ei kuitenkaan pitäisi olla illuusiota siitä, että Kiinan läsnäolo tai sen ei-sitovien toimenpiteiden allekirjoittaminen olisi osoitus sen halukkuudesta sitoutua koviin lakeihin.

Nyt tämä ei ehkä näytä olevan ongelma, koska Yhdysvallat tai sen liittolaiset eivät ole liian kiinnostuneita sotilaallista tekoälyä koskevista kovista laeista. Jopa odotettu"merkittävä sopimus” – joka saavutettiin Yhdysvaltojen ja Kiinan välisen Aasian ja Tyynenmeren talousyhteistyön huippukokouksen marginaalissa ja joka ilmeisesti kieltää tekoälyn käytön aseissa, droneissa ja ydinaseessa ja -ohjauksessa – on enemmän kuin mikään muu, joka sisältää vapaaehtoisia ja pyrkimyksiä.

Vapaaehtoiset sopimukset ja tiedonvaihto ovat kuitenkin paljon helpompia tehdä liittolaisten kanssa. Kun kriisiskenaariot syntyvät vastakkaisempien valtioiden kesken – ja ne tulevat todennäköisesti ottamaan käyttöön tekoälyä ja autonomisempia järjestelmiä taistelutiloissa – on tärkeää saada selvyys siitä, mikä on sallittua, viestintäkanavat ovat auki ja selkeät säännöt ohjaavat tekoälyn käyttöä ja käyttöä. autonomia. On todennäköistä, että valtiot ymmärtävät ennemmin tai myöhemmin myös joidenkin oikeudellisesti sitovien välineiden hyödyn.

Poliittinen julistus ja ensimmäinen YK:n päätöslauselma autonomisista aseista ovat tärkeitä askeleita eteenpäin, samoin kuin odotettu kahdenvälinen sopimus Yhdysvaltojen ja Kiinan välillä. Mutta tarvitaan lisää hallintoa, mukaan lukien tiukat lait ja täydentävät prosessit sotilaallisen tekoälyn ja autonomisten aseiden osalta. Tämä vaatii jonkin verran taitavaa diplomatiaa, jotta liittolaisten lisäksi potentiaaliset vastustajat saadaan mukaan ja oikeudellisia sopimuksia voidaan tehdä. Vasta sitten tulevat riskit sotilaallinen AI, kuten virheet ja konfliktien eskaloituminen, on todella käsiteltävä.

Branka Marijan on Project Ploughsharesin vanhempi tutkija, joka on erikoistunut kehittyvien teknologioiden sotilaallisiin ja turvallisuusvaikutuksiin. Hän on myös avustaja Center for International Governance Innovation -ajatushautomossa.