Terroristas que anteriormente tentaram atacar navios dos EUA no Mar Vermelho tentaram usar modelos antropomórficos de inteligência artificial para construir mísseis balísticos, descobriu um novo relatório.
No seu relatório de abuso de IA publicado na quinta-feira, a Anthropic revelou que uma “célula de atores ameaçadores” no Iémen tentou aproveitar o chatbot Claude para executar “três programas de desenvolvimento de armas”.
O relatório não nomeou especificamente a organização terrorista envolvida, mas a ameaça provavelmente veio dos Houthis, apoiados pelo Irão, que controlam grande parte do norte do Iémen.
De acordo com relatórios revistos pelo Daily Mail, os Houthis tentaram desenvolver um míssil balístico multi-estágio, um míssil multivariante e um foguete guiado que utiliza um “computador de voo de classe telefónica”.
Segundo o relatório, os terroristas usaram o código numa tentativa de desenvolver “software de orientação, navegação e controlo que dirige e estabiliza uma aeronave”.
Eles usaram o chatbot para ‘integrar um piloto automático de código aberto em um computador de vôo de classe telefônica, escrever software de controle e estimativa de posição, ajustar configurações de controle, executar um pipeline de construção de firmware e realizar uma simulação de vôo’.
«Não temos provas de que os intervenientes tenham tido sucesso na colocação em campo de um dispositivo operacional; Mas eles testaram um foguete guiado”, disse o relatório. ‘Esta experiência de campo parece ter falhado: em poucas horas, os atores voltaram a Claude para descobrir por que havia falhado.’
Os Houthis, um grupo terrorista designado pelo governo dos EUA, lançaram esta semana uma rápida ofensiva militar na costa do Mar Vermelho do Iémen e assumiram o controlo de um porto estratégico. O grupo também capturou uma ilha importante na sexta-feira.
Uma vista aérea dos caças Houthi capturando a carga Galaxy Leader na costa do Mar Vermelho em Hudaydah em 20 de novembro de 2023
No seu relatório de abuso de IA publicado na quinta-feira, a Anthropic revelou que uma “célula de atores ameaçadores” no Iémen do Norte tentou aproveitar o chatbot Claude para executar “três programas de desenvolvimento de armas”. Foto: CEO e cofundador da Anthropologie Dario Amodi
A Anthropic disse que os Houthis usaram Claude como representante principal de uma pequena equipe de engenharia, explicou o relatório.
“Os atores executam várias instâncias de nuvem simultaneamente, atribuindo a cada uma uma função, da mesma forma que um líder atribuiria tarefas a uma pequena equipe de engenharia: os atores encarregam uma instância de escrever código, outra de pesquisar e uma terceira de criar a primeira instância para revisar o código”, escreveu Anthropic.
As proteções do modelo de IA “bloquearam muitos dos seus pedidos, mas não todos”, disse a Anthropic, acrescentando que os terroristas “usaram uma variedade de técnicas” para contornar as medidas de proteção.
Eles fizeram isso “ocultando seus objetivos e os produtos para os quais o software foi projetado, e dividiram seu trabalho em múltiplas sessões para que nenhuma sessão revelasse toda a sua intenção”, disse o relatório.
A Anthropic bloqueou contas associadas a grupos suspeitos de desenvolvimento de armas e relatou ameaças aos seus parceiros dos setores público e privado.
No entanto, o relatório alerta que a Anthropic tem “evidências de que os atores já desenvolveram um kit de ferramentas de simulação offline que não depende de Claude ou de outros ambientes de computação de engenharia”.
Além da atividade no Iêmen, a Anthropic encontrou evidências de que usuários na China e na Rússia tentaram usar Claude para desenvolver software para projetar armas de fogo, mísseis, drones armados e bombas.
Supostos actores governamentais chineses e iranianos têm como alvo dissidentes e comunidades da diáspora para vigilância, afirma o relatório.
Um combatente dos rebeldes Houthi do Iêmen carrega um lançador de granadas propelido por foguete enquanto eles marcham durante um comício em Sana’a, Iêmen, quinta-feira
Fumaça e chamas saem de caminhões em um acampamento de forças governamentais apoiadas pela Arábia Saudita após um suposto ataque com mísseis Houthi na segunda-feira.
Descobriu-se também que a mídia estatal russa está usando Claude para campanhas eleitorais, incluindo alegações forjadas sobre as eleições parlamentares da Moldávia.
A antropologia também frustrou os esforços dos cientistas para realizar pesquisas que poderiam ser usadas para desenvolver armas biológicas, acrescentou o relatório.
A Anthropic não foi capaz de determinar se o estudo “serviu a um propósito legítimo ou nefasto”, disse o relatório.
Da mesma forma que tratou do caso do míssil balístico, a empresa bloqueou contas associadas à pesquisa.
O relatório não nomeou os pesquisadores ou instituições que o bloquearam ou de quais países esses cientistas vieram.
Enquanto isso, os rebeldes Houthi tomaram uma ilha estratégica no Estreito de Bab el-Mandeb, na entrada do Mar Vermelho, na sexta-feira, ameaçando ainda mais o transporte marítimo internacional.
A Arábia Saudita respondeu na quinta-feira com ataques aéreos contra o aeroporto controlado pelos Houthi na principal cidade portuária de Mokhar. Não houve relatos imediatos de feridos ou mortes.
A captura de Mayun, uma pequena ilha vulcânica árida no estreito, foi confirmada por um alto oficial militar do governo internacionalmente reconhecido do Iêmen e por um oficial Houthi.
O Estreito de Bab al-Mandeb liga o Mar Vermelho ao Golfo de Aden e serve como alternativa ao Estreito de Ormuz, que o Irão efectivamente fecha.
Os destroços do que os Houthis dizem ser um drone saudita Karail foram abatidos em uma área da província de Hajjah na quinta-feira.
O estreito é uma alternativa fundamental ao Estreito de Ormuz, sufocado pelo Irão.
Mas “não há necessidade de preocupação internacional”, disse Hijam al-Assad, membro do gabinete político dos rebeldes, à Associated Press, acrescentando que estavam a responder à agressão saudita e que “as nossas forças têm um alvo muito importante” se Riade continuar a atacar.
Na sexta-feira, o governo do Irão apelou à Arábia Saudita para acabar com o bloqueio ao Iémen, dando apoio ao seu aliado, os Houthis.
Na sua primeira declaração desde que os rebeldes entraram no porto, o Ministério dos Negócios Estrangeiros do Irão também apelou ao regresso às conversações entre a Arábia Saudita e os Houthis.
Especialistas dizem que a captura de Mokha poderá impulsionar a estratégia do Irão de aumentar os preços globais do petróleo e do gás para pressionar os Estados Unidos.
Também levanta preocupações sobre a abertura de uma nova frente após mais de seis meses de guerra na região – à qual a Arábia Saudita é forçada a responder.
