Os temores pela segurança da Grã-Bretanha estão aumentando depois que uma empresa de IA dos EUA impediu o Reino Unido de testar seu modelo mais recente.
Sob as ordens de Donald Trump, a gigante da IA Anthropic não conseguiu submeter o seu modelo mais recente ao Instituto Britânico de Segurança da IA, que testa a inteligência antes de a divulgar ao público.
O que é horrível é que um importante antropólogo acusou na quarta-feira as empresas de IA de “jogarem com a vida humana” no desenvolvimento incansável de tecnologia superinteligente.
Um líder da ciência antropológica admitiu então que havia mais de 10% de probabilidade de que a IA matasse “todos os humanos” na próxima década.
O presidente Trump ordenou que a Anthropic em junho impedisse que cidadãos estrangeiros usassem seu modelo Fable e Mythos, focado na segurança cibernética, por questões de segurança nacional.
Em resposta, a Anthropic disse que “desativaria repentinamente” seus modelos mais avançados para todos os estrangeiros.
O pesquisador de segurança antropogênica Jacob Coxon anunciou na quarta-feira que está renunciando à Anthropic após três anos por empresas de IA que buscam uma “aposta arrogante” com a raça humana.
A pedido de Donald Trump, a gigante da IA Anthropic não conseguiu submeter o seu modelo mais recente ao Instituto Britânico de Segurança da IA, que testa a inteligência antes de a divulgar ao público.
O ex-ministro das Forças Armadas Al Kearns perguntou na quarta-feira: ‘Qual é a maior ameaça à segurança? China? Rússia? Irã? Coréia do Norte? ‘Nenhum deles. Estas são algumas das empresas do Vale do Silício cujos fundadores se tornarão bilionários quando esses sistemas chegarem ao mercado.’
E na quarta-feira descobriu-se que a Anthropic excluiu pela primeira vez o AI Security Institute (AISI) da Grã-Bretanha de testar o seu mais recente modelo Claude Mithos 5.1 – apesar do AISI ser o líder mundial na contenção de riscos de IA.
Foi revelado pelo Daily Mail em julho que todos os cinco modelos testados pela AISI tentaram contornar os controles de segurança que implementaram, poucos dias antes da OpenAI sofrer seu próprio vazamento.
Quando o líder liberal-democrata, Ed Davey, foi questionado na quarta-feira sobre as revelações, relatadas pela primeira vez pelo Financial Times, o primeiro-ministro disse: “Ele está absolutamente certo de que a IA representa um risco para a nossa segurança nacional, mas também pode ser uma fonte de soluções para nos manter seguros”.
No entanto, a ação da Anthropic levantou temores sobre a IA na quarta-feira, com políticos de todos os matizes expressando preocupação.
Numa longa publicação nas redes sociais, o ex-ministro das Forças Armadas, Al Kearns, perguntou: ‘Qual é a maior ameaça à segurança? China? Rússia? Irã? Coréia do Norte?
‘Nenhum deles. Estas são algumas das empresas do Vale do Silício cujos fundadores se tornarão bilionários quando esses sistemas chegarem ao mercado.’
E Danny Kruger, do Reform UK, escreveu em X: “Se for verdade, isso é extremamente preocupante. O Reino Unido está a perder acesso a modelos de fronteira no preciso momento em que o auto-aperfeiçoamento iterativo (utilizando a IA para tornar as IA subsequentes mais capazes) pode começar, e estão a ser feitos enormes progressos – com enormes riscos.
Ameaça a segurança nacional britânica. O governo deve explorar todas as opções diplomáticas para manter o acesso à fronteira, incluindo a criação rápida de cálculos seguros que os nossos aliados possam verificar e confiar.’
Ben Spencer, ministro sombra da IA, acrescentou: “O Reino Unido deve manter a capacidade de avaliar e gerir os riscos dos sistemas avançados de IA.
‘O Instituto de Segurança de Inteligência Artificial (AISI) líder mundial do Reino Unido foi criado pelo governo conservador anterior para avaliar os riscos dos sistemas de IA para a sociedade, a segurança pública e a segurança nacional.
‘O governo deve agir agora para garantir o acesso a todos os novos modelos de fronteiras para desempenhar este importante papel.’
Pela primeira vez, a Enthropic excluiu o AI Security Institute (AISI) da Grã-Bretanha de testar o seu mais recente modelo, Claude Mythos 5.1 – apesar do AISI ser o líder mundial na contenção de riscos de IA.
Acontece num momento em que os deputados estão a intensificar a acção no Parlamento para enfrentar os riscos colocados pela IA.
Alex Sobel, deputado trabalhista de Leeds Central e Headingley, apresentou seu projeto de lei de segurança de superinteligência artificial ao Commons na terça-feira, que proibiria o desenvolvimento e operação de IA superinteligente.
Ele disse ao Mail: “Estamos vendo casos de modelos de IA escapando do ambiente de teste e agindo de forma maliciosa ou dando avisos apocalípticos, bem como mais trabalho para empresas de IA de fronteira.
‘Por que precisamos tanto de regulamentação nacional como de acordo internacional antes que saia do controle das pessoas’.
Liam Byrne, presidente do Comité de Negócios e Comércio, também escreveu ao diretor da AISI, Henri de Geot, e queixou-se de que a agência governamental atrasou a resposta aos pedidos de reunião.
Acontece que o pesquisador de segurança antropomórfica Jacob Coxon anunciou na quarta-feira que está renunciando à Anthropic depois de três anos em empresas de IA para realizar uma “aposta arrogante” com a raça humana.
Numa publicação online explosiva, Coxon escreveu que “as pessoas que constroem a IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década” e que estão “a correr directamente para o auto-aperfeiçoamento da superinteligência e para o jogo com as nossas vidas”.
Ele acrescentou: ‘Não subestime o poder desta tecnologia. Em breve serão sistemas sobre-humanos que poderão hackear qualquer coisa, revolucionar qualquer campo da noite para o dia e ganhar poder e recursos reais.
«Todos testemunhámos progressos em cada um destes domínios e o progresso não está a abrandar.»
Em resposta ao Sr. Coxon, Evan Hubinger, que lidera a ciência alinhada na Anthropic: ‘Jacob está aqui – nós realmente acreditamos de todo o coração que a IA pode matar todos os humanos! Pessoalmente, acho que será >10% na próxima década.
“Acredito que a Anthropic está fazendo o seu melhor, mas ainda não temos um plano para resolver o alinhamento da superinteligência e claramente não estamos no caminho certo.
‘Acho que o risco é menor do que o modelo atual. O que me preocupa é que a superinteligência decorrente do autoaperfeiçoamento iterativo, como dissemos, está acontecendo mais rápido do que pensávamos.
Darren Jones, ministro do Gabinete de Keir Starmer, apelou na quarta-feira a Andy Burnham, ao secretário-geral da ONU e à OCDE para lançarem conjuntamente um “novo acordo multilateral” para desenvolver a superinteligência.
Numa carta, Jones escreveu: “Precisamos de um novo acordo multinacional para o desenvolvimento controlado e seguro da superinteligência.
‘Uma abordagem que coloca a segurança em primeiro lugar para o rápido desenvolvimento desta tecnologia, e não uma proibição da inovação ou do esforço científico.’
Especialistas britânicos em IA alertaram esta semana que o Reino Unido corre o risco de ficar para trás na corrida global para desenvolver IA.
Ao prestar depoimento ao Parlamento na segunda-feira, George Balston, do Instituto Alan Turing, disse ter “preocupações sobre a capacidade do Reino Unido com IA e como ela se relaciona com a soberania”.
Ele acrescentou que o Reino Unido corre o risco de “ter alguns poderes” nas suas fronteiras ou de ser “isolado” dos poderes principais através da IA.
Um porta-voz do Gabinete disse: ‘O Reino Unido é líder mundial em segurança de IA e temos o instituto de segurança mais bem financiado e com melhores recursos do mundo.
‘O AI Security Institute continua a colaborar estreitamente com parceiros da indústria, incluindo a Anthropic, para tornar os modelos mais seguros. Na semana passada, a OpenAI testou seu modelo mais poderoso, o GPT-6 Astra, antes de seu lançamento.
«Estes riscos não param nas fronteiras nacionais e nenhum país pode enfrentá-los sozinho. O Reino Unido continuará a testar os modelos mais avançados, a desenvolver uma compreensão científica rigorosa das suas capacidades e riscos e a garantir que as decisões políticas sejam baseadas em evidências.’
