Precisamos de leis rígidas sobre o uso militar de IA – e em breve

Precisamos de leis rígidas sobre o uso militar de IA – e em breve

Carimbo de data / hora: 13 de novembro de 2023, 1h00
Nó Fonte: 2381986

O potencial destrutivo da inteligência artificial resultou numa enxurrada de atividades recentes de governação. Poucos dias antes do O Reino Unido sediou seu AI Safety Summit de 1º a 2 de novembro, a administração Biden anunciou a ordem executiva sobre “Inteligência Artificial Segura, Protegida e Confiável”. Embora a cimeira no Reino Unido se tenha centrado nos riscos catastróficos da IA, os esforços dos EUA concentraram-se em questões mais concretas, como as suas utilizações militares.

Durante a cimeira, a vice-presidente dos EUA, Kamala Harris anunciou diversas novas iniciativas que compunham a ordem executiva, como o novo AI Safety Institute. Mas o mais importante é que Harris também anunciou que 31 nações aderiram ao Declaração Política sobre o Uso Militar Responsável da Inteligência Artificial e da Autonomia. A declaração foi anunciada pela primeira vez na Cimeira sobre Inteligência Artificial Responsável no Domínio Militar, realizada em fevereiro na Holanda.

A atualização da declaração assinala o compromisso dos EUA com este esforço e chama a atenção para a lista de signatários que inclui aliados dos EUA como o Canadá, a Austrália e a França. Notavelmente ausentes, porém, estão a Rússia e a China. A probabilidade de qualquer um dos Estados aderir a um esforço liderado pelos EUA no actual clima geopolítico é extremamente baixa.

Rússia não foi bem-vindo em nenhuma das cimeiras e é improvável - com a sua invasão em curso da Ucrânia - para serem trazidos para essas discussões. Mesmo que fosse convidada, a Rússia provavelmente não assinaria sequer documentos voluntários, uma vez que não deseja ver qualquer regulamentação, vinculativa ou não vinculativa, sobre tecnologias emergentes.

A China participou nas cimeiras e assinou dois instrumentos juridicamente não vinculativos: o “Apelo à ação REAIM 2023”; e a "Declaração de Bletchley”Acordado na cimeira do Reino Unido. Embora seja importante para um diálogo mais aprofundado, isto obscurece um obstáculo maior que a China coloca à regulamentação da IA ​​em geral – e especificamente às aplicações militares da IA.

Embora seja pouco provável que a China seja tão obstrucionista como a Rússia tem sido nas discussões multilaterais sobre armas autónomas, é claro que só concordará com instrumentos não vinculativos e com aqueles que estejam nos seus termos. Isto significa que é pouco provável que adira à Declaração Política dos EUA sobre a Utilização Militar Responsável da IA ​​e da Autonomia devido aos seus interesses estratégicos em relação à tecnologia e ao contexto mais amplo. competição geopolítica com os EUA

Isto ficou evidente quando se tratou do votação recente sobre a primeira resolução sobre armas autónomas na Primeira Comissão da Assembleia Geral, que geralmente observa que os estados reconhecem a urgência de abordar a crescente autonomia nos sistemas de armas e de realizar mais conversações. Enquanto 164 votaram pela aprovação da resolução, a China absteve-se.

A abstenção da China sublinha que tentará moldar qualquer resultado, incluindo adiar os esforços, até que os termos sejam favoráveis ​​às suas ambições de alcançar supremacia militar da IA.

Apenas dois estados votaram contra a resolução: Rússia e Índia.

Nenhuma das votações é surpreendente, uma vez que tanto a Rússia como a Índia recuaram contra medidas regulamentares mais significativas na Convenção das Nações Unidas sobre Certas Armas Convencionais, ou CCW. Na verdade, esse fórum estagnou em grande parte devido ao tratamento do consenso como unanimidade, bem como à resistência da Rússia e da Índia.

A resistência da China, da Rússia e da Índia é intransponível?

Ao longo dos anos de discussões sobre armas autónomas na CCW, tornou-se evidente que o diálogo entre aliados e aliados não aborda o desafio de mais estados adversários ou de estados que seriam adversários, principalmente para os EUA e os seus aliados.

A adesão da China a algumas destas discussões deve ser bem-vinda. No entanto, não deve haver ilusão de que a presença da China ou a sua assinatura de medidas não vinculativas sejam indicativas da sua vontade de se comprometer com leis duras.

Agora, isto pode não parecer ser um problema, uma vez que nem os EUA nem os seus aliados estão demasiado interessados ​​em leis rígidas sobre IA militar. Até o esperado “acordo histórico”- alcançado à margem da cimeira de Cooperação Económica Ásia-Pacífico entre os EUA e a China, aparentemente proibindo o uso de IA em armas, drones e comando e controlo nuclear - irá, mais do que qualquer coisa, apresentar medidas voluntárias e aspiracionais.

No entanto, acordos voluntários e troca de informações são muito mais fáceis de realizar com aliados. Quando surgirem cenários de crise entre mais Estados adversários - e é provável que surjam à medida que mais Estados implementem IA e sistemas mais autónomos em espaços de batalha - será importante ter clareza sobre o que é permitido, canais de comunicação abertos e regras claras que orientem a utilização da IA ​​e autonomia. É provável que, mais cedo ou mais tarde, os estados também percebam os benefícios de alguns instrumentos juridicamente vinculativos.

A declaração política e a primeira resolução da ONU sobre armas autónomas constituem importantes passos em frente, tal como o esperado acordo bilateral entre os EUA e a China. Mas é necessária mais governação, incluindo leis rígidas e processos complementares sobre IA militar e armas autónomas. Isto exigirá um certo grau de diplomacia qualificada para envolver não apenas aliados, mas também potenciais adversários, e para elaborar acordos jurídicos. Só então os riscos que acompanham AI militar, como erros e escalada de conflitos, sejam verdadeiramente abordados.

Branka Marijan é pesquisadora sênior do Projeto Ploughshares, especializada nas implicações militares e de segurança de tecnologias emergentes. Ela também contribui para o grupo de reflexão do Centro para Inovação em Governança Internacional.

Carimbo de hora:

Mais de Notícias de defesa