Os EUA “quase entraram em guerra” com a China depois de a inteligência artificial ter analisado incorretamente que o conteúdo de um navio chinês continha material de armas nucleares.
Nesta primavera, um analista de operações especiais dos EUA usou um chatbot de IA para analisar manifestos de navios chineses, disseram várias fontes. CNN.
Concluiu erroneamente que o navio, então em trânsito em águas do Oriente Médio, transportava componentes de um programa de armas nucleares.
Mais tarde, o analista utiliza novamente a IA para transformar essa determinação num relatório de inteligência que é então distribuído por todas as forças armadas.
Quase imediatamente, os planejadores militares começaram a elaborar planos para interceptar o navio chinês. O plano era embarcar no navio, e os aviões estavam no ar para a missão enquanto as tropas se preparavam.
No entanto, pouco antes do lançamento da missão, as autoridades analisaram outras avaliações de inteligência e descobriram que esta foi criada com a ajuda da IA. Eles logo perceberam que a tecnologia havia identificado erroneamente o material que o navio transportava.
Uma fonte chamou o relatório da IA de ‘completamente falso’. Acrescentaram que “quase iniciou uma guerra” com a China, pois qualquer ação militar contra o navio poderia desencadear um confronto entre as duas superpotências.
A revelação da operação quase catastrófica ocorre menos de uma semana antes do presidente chinês, Xi Jinping, visitar Washington para se reunir com o presidente Donald Trump para discutir IA, comércio, minerais críticos e muito mais.
Um analista militar dos EUA usou IA para determinar que carga um navio chinês transportava. A IA determinou que o navio continha material de armas nucleares, e os militares dos EUA cometeram um erro ao planejar embarcar no navio antes que a IA o determinasse.
Fontes dizem à CNN que o relatório da IA é ‘completamente falso’ e ‘quase começou uma guerra’
O navio chinês alvo do ataque transitava pelas vias navegáveis do Oriente Médio
A administração Trump introduziu a utilização da IA em todo o governo federal e o Pentágono tem sido um consumidor ávido das novas ferramentas.
As autoridades usaram a IA para analisar grandes quantidades de inteligência bruta e determinar quais alvos atingir. Também tem sido usado para ajudar a agilizar a logística e equilibrar orçamentos.
“A IA na seleção de alvos é definitivamente algo que está evoluindo e não existem diretrizes reais sobre como um ser humano evitaria vítimas civis ou fratricídio”, revelou uma fonte.
O incidente assustador destaca a rápida implantação da IA nas forças armadas e os riscos que ela representa para o trabalho crítico de inteligência.
Não está claro se a IA usada é um sistema interno do Pentágono ou comercial.
“O equipamento interno é principalmente uma cópia do produto comercial que usa batom”, disse um ex-funcionário dos EUA à CNN.
O secretário da Guerra, Pete Hegseth, defendeu a rápida adoção da IA nas forças armadas, uma iniciativa que entrou em vigor no início deste ano.
“Vamos lançar experiências, eliminar obstáculos burocráticos, concentrar os nossos investimentos e demonstrar os métodos viáveis necessários para garantir a liderança na IA militar”, disse Hegseth em Janeiro, ao anunciar a iniciativa.
Porta-aviões dos EUA monitoram o contrabando marítimo perto do Estreito de Ormuz em meio ao bloqueio dos EUA ao Irã
Recentemente, a Casa Branca debateu-se sobre como garantir o domínio da IA americana e proteger os cidadãos dos chatbots.
OpenAI e Anthropic, as empresas por trás do ChatGPT e Cloud, alertaram nas últimas semanas que as empresas de IA poderiam se beneficiar de uma desaceleração no desenvolvimento da IA, citando riscos de segurança.
Um incidente recente com um navio chinês destaca como a IA pode gerar informações imprecisas ou enganosas que os soldados ou marinheiros podem então agir.
