Transparência radical: a promessa e o perigo da IA generativa

Republicado por Platão

seguidores: 0

Chatbots de IA como o ChatGPT continuam a atrair a atenção por sua capacidade de produzir ensaios, relatórios e e-mails. Para as empresas espaciais, as ferramentas generativas de inteligência artificial oferecem o potencial de fundir conjuntos de dados e agilizar as operações.

No HawkEye 360, por exemplo, os analistas que consultam o armazém virtual de sinais de radiofrequência da empresa por meio de código de programação podem, em vez disso, encontrar o que desejam fazendo perguntas em linguagem natural.

“Mostre-me a pesca ilegal que está acontecendo nesta área do mundo”, disse Kaitlin Zimmerman, cientista-chefe de dados do HawkEye 360, em outubro no Satellite Innovation 2023 em Mountain View, Califórnia. “Isso poderia gerar a consulta que poderia acessar nosso banco de dados e extrair essas informações.”

Da mesma forma, a startup hiperespectral Orbital Sidekick permite que os funcionários pesquisem o arquivo de imagens da empresa e o cronograma de tarefas usando IA generativa.

Andrew Guenther, do Orbital Sidekick, à esquerda, e Kaitlin Zimmerman, do HawkEye 360, falam sobre IA na Satellite Innovation. Crédito: Inovação por Satélite

“É uma ferramenta realmente poderosa para observarmos como nossas equipes interagem com esses sistemas”, disse Andrew Guenther, principal engenheiro de software da Orbital Sidekick.

Além de ver quais informações as pessoas desejam, Guenther e seus colegas veem quando as consultas ficam vazias. “Eles estão escrevendo exatamente o que querem fazer e podemos capturar isso”, disse Guenther na Satellite Innovation.

Trabalho transformador

Durante anos, as empresas espaciais têm vindo a expandir a sua dependência de algoritmos de aprendizagem automática para automatizar operações, reduzir a latência na transferência de dados e detectar anomalias a bordo de satélites. Essas aplicações de IA tradicional podem ser projetadas antecipadamente e testadas exaustivamente.

Em contraste, a IA generativa depende de modelos de aprendizagem profunda para detectar padrões em enormes conjuntos de dados de linguagem ou imagens e gerar resultados com base em dados históricos e previsões futuras.

“Obviamente, a IA generativa conquistou o mundo”, disse Steven Truitt, principal gerente do programa Microsoft Azure Space, em outubro no Simpósio MilSat em Mountain View. “Isso terá enormes efeitos na forma como a indústria espacial como um todo funciona.”

Por exemplo, poderia levar a uma melhor integração de conjuntos de dados díspares através de comunicações máquina a máquina.

“Mesmo APIs mal definidas serão capazes de se comunicar entre si em virtude de um serviço de tradução de IA generativo”, disse Guy de Carufel, CEO da Cognitive Space, uma startup especializada em automatizar operações de satélite, na Satellite Innovation.

Além de transformar a forma como as empresas espaciais trabalham, a IA generativa terá um impacto profundo nas relações com os clientes.

“Isto irá mudar fundamentalmente a forma como as suas organizações funcionam, a forma como os seus padrões de comportamento se manifestam no mundo, e isso terá efeitos secundários”, disse Truitt.

Resolvendo Problemas Complexos

Os clientes do software de mapeamento baseado na web ArcGIS da Esri, por exemplo, podem ficar sobrecarregados com a quantidade de dados produzidos pelos sensores de observação da Terra.

“Quando você olha para todos os sensores que estamos lançando e todos os dados que estão sendo coletados, literalmente não há como consumir tudo isso”, disse Richard Cooke, diretor de desenvolvimento de negócios globais da Esri, em setembro, na conferência World Satellite Business Week. em Paris. “O trabalho que a Synthetaic e outras organizações estão realizando preparará o terreno para a próxima aplicação de IA generativa. Chegaremos ao ponto em que todos esses sensores funcionarão como um sistema nervoso central para o planeta.”

Assim que os dados do sensor estiverem vinculados, “será como se neurônios disparassem no cérebro”, disse Cooke. “Vamos obter observações muito rapidamente e seremos capazes de tomar decisões sobre essas observações muito rapidamente. Vai enriquecer a elaboração de políticas [e] as decisões empresariais e melhorar a produtividade.”

Synthetaic é a startup de IA com sede em Wisconsin que traçou a trajetória do balão meteorológico chinês abatido pela Força Aérea dos EUA em fevereiro, mesclando relatórios de mídia social com imagens de satélite do Planeta.

Com a IA generativa “virá uma transparência bastante radical”, disse Corey Jaskolski, fundador e CEO da Synthetaic, na World Satellite Business Week. “Seremos capazes de encontrar coisas nos dados de satélite que no passado estavam escondidas na obscuridade.”

A transparência radical prometida pela IA generativa poderia ajudar as pessoas a resolver problemas complexos.

Após um furacão, um terramoto ou outro desastre, a IA generativa poderia sintetizar dados terrestres e de satélite para determinar onde as redes de comunicações e as infra-estruturas de transporte foram danificadas, quais os recursos disponíveis e recomendar linhas de acção aos gestores de emergência.

Instalando guarda-corpos

Além do mais, a IA generativa pode testar cenários futuros.

A Amazon Web Services está trabalhando com a Latitudo 40, uma empresa italiana de análise da Terra, para ajudar planejadores urbanos a modelar novas cidades.

“Eles podem reduzir ao mínimo sua pegada de carbono usando IA generativa com dados de observação da Terra”, disse Alan Campbell, principal arquiteto de soluções de produtos espaciais da AWS, na Satellite Innovation.

Novas cidades podem “reduzir ao mínimo sua pegada de carbono usando IA generativa com dados de observação da Terra”, disse Alan Campbell, principal arquiteto de soluções de produtos espaciais da AWS, à direita, na Satellite Innovation em outubro de 2023. Crédito: Inovação por Satélite

As pessoas que exploram aplicações potenciais para IA generativa também alertam para problemas potenciais.

As empresas que empregam grandes modelos de linguagem para simplificar as consultas ao banco de dados precisarão de proteções para garantir que os clientes só possam acessar os dados que têm permissão para visualizar.

“Estamos analisando cuidadosamente nossos projetos de segurança para separar esses conjuntos de dados e fornecer limites rígidos para garantir que não exponhamos nenhuma informação que não deveríamos”, disse Zimmerman.

Nas imagens da Terra, os modelos generativos de IA poderiam preencher lacunas com dados fabricados, um problema conhecido como alucinação. Ou os dados podem ser manipulados intencionalmente para produzir falsificações profundas.

“A IA pode ajudar-nos a ser muito úteis no espaço de segurança”, disse Sue Gordon, ex-principal vice-diretora de inteligência nacional, na Economist Space Summit, em Los Angeles, em outubro. “Há outros que o usariam para tentar subjugar nossos sistemas a propósitos ruins. Precisamos realmente redobrar a aposta na segurança cibernética, incluindo a garantia de dados.”

A mensagem foi reiterada em uma ordem executiva do governo Biden de 30 de outubro. A Ordem Executiva sobre o Desenvolvimento e Utilização Seguros e Confiáveis da Inteligência Artificial alerta que a IA apresenta riscos de segurança, incluindo tornar os sistemas de infraestruturas críticas mais vulneráveis a ataques físicos e cibernéticos. E orienta os Departamentos de Defesa e Segurança Interna a explorar como a IA poderia melhorar as defesas de segurança cibernética.

Previsão de interferência

Os especialistas militares veem um enorme potencial tanto na IA tradicional como na IA generativa.

O major-general aposentado da Força Aérea dos EUA, Kim Crider, disse que a IA pode aumentar as defesas da guerra eletrônica, consumindo enormes conjuntos de dados e detectando padrões de interferência.

“As máquinas nos ajudam a entender de onde vêm essas interferências ou de onde virão”, disse Crider, sócio fundador da empresa de consultoria Elara Nova, no Simpósio MilSat. “Podemos prever a natureza da interferência. Podemos prever onde estará a interferência. Certamente, existem riscos e haverá desafios. Mas precisamos descobrir maneiras de continuar a avançar na IA e na computação quântica e em uma variedade de outras capacidades que nos levarão ao próximo nível.”

Este artigo apareceu pela primeira vez na edição de novembro de 2023 da revista SpaceNews.