Os cibercriminosos estão a apenas três meses de poder usar a IA para roubar contas bancárias à vontade, temem especialistas em segurança do governo.
O alerta vem de funcionários do Gabinete que trabalham em estreita colaboração com o AI Security Institute (AISI) da Grã-Bretanha, que testa o kit antes de liberá-lo ao público.
Pessoas do instituto de renome mundial deram uma olhada antecipada na tecnologia de ponta – e alertaram o Mail on Sunday que a Grã-Bretanha poderia enfrentar este “cenário de pesadelo” em apenas três a cinco meses.
Um funcionário disse a este jornal que este ‘Armagedom de IA’ poderia se tornar realidade mais cedo do que se pensava, já que os laboratórios chineses favorecem modelos de IA que não possuem guardas de segurança rígidos.
Ao contrário do Ocidente, a tecnologia chinesa permite aos desenvolvedores remover facilmente recursos de segurança que limitam o que um modelo de IA pode fazer.
Estes podem proibir certas palavras e padrões ou criar uma mensagem de rejeição padrão – por exemplo, se alguém tentar usar IA para construir uma bomba ou cometer um crime.
Agora, a China está a lançar modelos cada vez mais avançados com funcionalidades de segurança facilmente desactivadas, o que significa que as pequenas empresas e os membros do público poderão ficar vulneráveis a fraudadores muito mais cedo do que o esperado.
O funcionário disse ao MoS: “Todos os hackers russos e nigerianos em breve terão em suas mãos uma tecnologia capaz de roubar informações financeiras pessoais, excluir dados de empresas e quebrar até mesmo as senhas mais avançadas para cometer fraudes”.
Os cibercriminosos estão a apenas três meses de poder usar a IA para roubar contas bancárias à vontade, temem especialistas em segurança do governo (imagem de banco de dados).
Os bancos já não são capazes de responder adequadamente à tecnologia de ponta, alertou esta semana o Instituto de Estabilidade Financeira.
Eles apelaram às instituições financeiras para reforçarem as suas defesas para evitar grandes hacks e proteger o dinheiro dos clientes.
Em um artigo publicado na última quarta-feira, eles disseram que algumas tecnologias estão agora tão avançadas que poderiam ter horas para impedir a entrada de um hacker.
Os ministros estão preocupados com o ritmo a que a tecnologia está a melhorar e esperam um dilúvio de ataques sofisticados.
O MoS entende que os ministros estão a explorar se serão necessárias mais “intervenções direccionadas” para enfrentar os riscos de segurança nacional. Como sinal da sua preocupação, afirmam que será “proporcional” sem prejudicar o crescimento e a inovação.
As tensões sobre a IA aumentaram esta semana depois que a principal empresa americana de IA, a Anthropic, impediu o Instituto de Segurança da Grã-Bretanha de testar seu modelo mais recente.
Um especialista em IA disse que a medida mostra que a América agora considera a IA uma “arma secreta e perigosa de estado”.
Neste fim de semana, a Anthropic disse que frustrou cinco tentativas este ano de fabricar armas biológicas usando o modelo.
Num relatório, a empresa afirmou que o seu modelo de “nuvem” poderia ajudar a fazer progressos científicos. Mas alertou que as mesmas capacidades de investigação biológica também poderiam ser utilizadas para criar superbactérias perigosas, capazes de matar milhões de pessoas.
Isso ocorre no momento em que um debate global sobre IA irrompe depois que um dos pesquisadores da empresa deixou a empresa devido a uma corrida armamentista de IA “fora de controle”.
Ele emitiu um alerta severo de que as grandes empresas não estavam agindo de forma responsável e disse que havia uma chance “superior a 10%” de que a tecnologia matasse “todos os seres humanos” na próxima década.
Isto intensificou os apelos para levar mais a sério a segurança da IA.
O ativista de proteção de IA, Conor Axiots, disse: ‘A América agora não quer que nos beneficiemos de sua tecnologia – é decepcionante. Obviamente não confiam nos seus aliados mais próximos.
«Os riscos da IA até agora não foram levados a sério pelos governos. Mas estamos num ponto de viragem. As pessoas querem sistema.
«Exorto qualquer autoridade eleita ou funcionário público a expressar clara e publicamente os seus receios sobre os riscos iminentes da IA. Não me lembro da pessoa que não agiu.
O deputado conservador Joe Robertson disse: “A IA oferece oportunidades incríveis, mas também apresenta novas ameaças à nossa segurança nacional e económica. Mas, fora o departamento de IA de Andy Burnham, você não saberia disso. O novo PM deveria passar menos tempo tocando guitarra e mais tempo levando a IA a sério.’
Um porta-voz do governo disse: “A IA está a tornar algumas capacidades cibernéticas mais acessíveis, mas as empresas não estão indefesas. Todas as organizações devem trabalhar urgentemente para melhorar as suas defesas cibernéticas, e definimos medidas práticas que as empresas devem tomar, incluindo a adoção de requisitos cibernéticos, seguindo as orientações do Centro Nacional de Segurança Cibernética e gerindo a segurança cibernética a nível do conselho.’
