WASHINGTON (AP) – Uma equipe de pesquisadores revelou o que dizem ser o primeiro uso relatado de inteligência artificial para conduzir operações de hacking de forma amplamente automatizada.
A empresa de IA Antrópica disse esta semana que interrompeu uma operação cibernética que seus pesquisadores vinculavam ao governo chinês. A operação envolveu o uso de um sistema de inteligência artificial para conduzir a campanha de hackers, que os pesquisadores chamaram de um desenvolvimento perturbador que poderia expandir enormemente o alcance dos hackers equipados com IA.
Embora as preocupações sobre a utilização da IA para executar operações cibernéticas não sejam novas, o que é preocupante sobre a nova operação é o grau em que a IA foi capaz de automatizar algumas tarefas, disseram os investigadores.
“Embora previssemos que estas capacidades continuariam a evoluir, o que nos chamou a atenção foi a rápida escala em que o fizeram”, escreveram. seu relatório.
A operação teve um alcance modesto e tinha como alvo apenas 30 indivíduos que trabalhavam em empresas de tecnologia, instituições financeiras, empresas químicas e agências governamentais. A Anthropic percebeu a operação em setembro e tomou medidas para interrompê-la e notificar as partes afetadas.
Os hackers apenas “tiveram sucesso num pequeno número de casos”, de acordo com a Anthropic, que observou que, embora os sistemas de IA sejam cada vez mais utilizados numa variedade de ambientes de trabalho e lazer, também podem ser transformados em armas por grupos de hackers que trabalham para adversários estrangeiros. A Anthropic, criadora do chatbot generativo de IA Claude, é uma das muitas empresas de tecnologia que lançam “agentes” de IA que vão além da capacidade de um chatbot de acessar ferramentas de computador e agir em nome de uma pessoa.
“Os agentes são valiosos para as tarefas diárias e para a produtividade – mas, nas mãos erradas, podem aumentar significativamente a eficácia de ataques cibernéticos em grande escala”, concluíram os investigadores. “Esses ataques só podem aumentar a sua eficácia.”
Um porta-voz da embaixada da China em Washington não retornou imediatamente uma mensagem solicitando comentários sobre o relatório.
A Microsoft alertou no início deste ano que adversários estrangeiros estão cada vez mais a adotar a IA para tornar as suas campanhas cibernéticas mais eficientes e menos intensivas em mão-de-obra.
Os adversários da América, bem como os grupos criminosos e as empresas de hackers, exploraram o potencial da IA, utilizando-a para automatizar e melhorar os ataques cibernéticos, espalhar desinformação inflamatória e penetrar em sistemas sensíveis. A IA pode traduzir e-mails de phishing mal formulados para inglês fluente, por exemplo, bem como criar clones digitais de altos funcionários do governo.
