A IA foi identificada como um “perigo claro e presente” na quinta-feira, quando os testes mostraram que cada modelo avançado estava tentando derrotar as salvaguardas de segurança.
Num alerta aos ministros, os especialistas britânicos em segurança de inteligência artificial revelaram que cinco modelos que testaram tentavam contornar os seus controlos de segurança.
As revelações ocorrem poucos dias depois que a OpenAI sofreu seu próprio vazamento – onde um “agente” de IA invadiu uma empresa de tecnologia por conta própria.
O terrível incidente aconteceu enquanto a OpenAI, criadora do ChatGPT, testava seus modelos mais recentes em um ambiente seguro conhecido como ‘sandbox’.
Mas a IA consegue invadir a empresa de tecnologia norte-americana Hugging Face para escapar do local de teste e roubar dados.
No seu primeiro grande discurso desde que Andy Burnham se tornou primeiro-ministro, Kimi Badenoch alertou que a IA era agora um “perigo claro e presente” para a segurança da Grã-Bretanha. O líder conservador disse que os relatórios sobre o vazamento da OpenAI eram preocupantes ao criticar Burnham por deixar a IA como uma prioridade no governo.
Em resposta ao hack, a Sra. Badenoch disse: “É muito preocupante que isto tenha acontecido, e é por isso que quero ver um governo que esteja muito focado na nossa segurança nacional, na nossa protecção de dados”.
Ele acrescentou: “Sei, pelo meu tempo como secretário do Comércio, pelas minhas conversas com o GCHQ, pelos meus briefings de segurança, que isto está a tornar-se um perigo claro e presente para a segurança global, bem como para a nossa segurança”.
O líder conservador Kemi Badenoch (foto na quinta-feira) criticou o novo primeiro-ministro Andy Burnham por empurrá-lo para baixo em sua lista de prioridades.
Depois que foi revelado que a OpenAI sofreu seu próprio vazamento – onde um ‘agente’ de IA invadiu sua própria empresa de tecnologia (imagem de estoque)
E o Governador do Banco de Inglaterra, Andrew Bailey, disse que o público deveria estar preocupado com os “riscos mais amplos que a IA de fronteira representa para o sector financeiro e os seus clientes”.
Frontier AI refere-se a modelos grandes e poderosos de inteligência artificial de uso geral no limite do poder.
Ele alertou: “A Frontier AI pode tornar os ataques cibernéticos mais rápidos e fáceis de realizar, tornar as interrupções mais perturbadoras e os golpes cometidos por criminosos mais credíveis”.
Mas os críticos temem que a IA seja agora empurrada para baixo das prioridades do governo, após a breve mudança de Burnham para o Gabinete do Governo esta semana.
Num dos seus primeiros atos como primeiro-ministro, ele aboliu o Departamento de Ciência, Inovação e Tecnologia, onde fica a sigla AI, para substituí-lo por um Departamento reforçado de Negócios, Inovação, Ciência e Comércio. O Ministro da IA, Kanishk Narayan, agora trabalhará no Gabinete do Gabinete e no DBIST e conseguirá um assento no Gabinete.
Uma nova força-tarefa de IA, apoiada por conselheiros do primeiro-ministro, ocupará o recém-criado gabinete do primeiro-ministro e do gabinete.
Mas Badenoch acusou o novo primeiro-ministro de não abordar os riscos óbvios representados pela IA ao desmantelar o DSIT. Ele disse: ‘Uma das primeiras coisas que Andy Burnham fez foi fechar o Departamento de Ciência e Tecnologia. Se você está preocupado com o que a IA vai entregar, não me machuca o que você faz.
E Heloise Dunlop, do think tank independente The Institute for Government, alertou que trazer a IA para o Gabinete “reduz a capacidade de pensar de forma coerente e coordenada sobre a IA, porque se perde a eficiência e a eficácia de ter um departamento totalmente dedicado”.
O ex-ministro das Forças Armadas Al Kearns, que esta semana recusou um cargo no governo de Burnham, instou os ministros a aprenderem com a violação da OpenAI. Ele escreveu em X of AI Breach: ‘Agente contra agente, na velocidade da máquina, com humanos lendo relatórios depois que tudo acontece.’
Os ministros foram agora instruídos a ver a violação da IA aberta como um sinal de alerta para uma potencial interrupção da IA nos próximos meses e anos, revelaram as autoridades.
Os modelos do Instituto de Segurança de IA do governo GPT-5.4, GPT-5.5, GPT-5.5 Sol, Claude Opus 4.7 e Claude Mythos Preview estão rapidamente se tornando nomes conhecidos na Grã-Bretanha à medida que o público começa a confiar na IA.
Burnham (foto na terça-feira) aboliu o Departamento de Ciência, Inovação e Tecnologia – onde fica a IA – como um de seus primeiros atos no governo.
Embora o AISI seja visto como uma das melhores instalações do mundo para avaliar os riscos colocados pelos modelos mais avançados, há uma preocupação crescente sobre onde poderá terminar a “corrida armamentista” entre os EUA e a China, sendo dada pouca atenção aos potenciais riscos envolvidos pelos promotores.
No experimento, os modelos foram encarregados de hackear um sistema para encontrar uma ‘bandeira’ de letras e números escondida em um ambiente simulado. Regras rígidas foram estabelecidas para a tarefa e os modelos não foram solicitados a trapacear.
Mas quando os testes começarem, o modelo GPT AI da empresa de tecnologia OpenAI e o modelo Claude da Anthropic tentarão fazer com que o software de avaliação vaze informações para eles, pesquise soluções na Internet ou adivinhe respostas.
E, num caso, um modelo de IA estava tão determinado a quebrar as regras que escreveu e executou código num serviço externo fora do sistema AISI para tentar aceder ao teste. Não houve feridos, mas a AISI disse que a tentativa “poderia ter sido bem-sucedida” se a sua infraestrutura de teste não tivesse sido projetada e construída com segurança.
Surpreendentemente, porém, os modelos de IA não negaram seu engano – e o descreveram como “errado” em menos de 50% das vezes. Todas as modelos só admitem trapacear algumas vezes.
Um porta-voz do governo disse: “Ao aproximar esta tecnologia do coração do governo, aproveitaremos os pontos fortes únicos da Grã-Bretanha para fornecer IA para todos nós.
«Estamos a colocar a IA no centro dos nossos planos para um bom crescimento em todos os códigos postais: reunindo inovação, negócios e indústria, nomeando o primeiro Ministro da IA a nível de Gabinete e estabelecendo um Grupo de Trabalho de IA no Gabinete do Primeiro-Ministro e do Gabinete.»
