O governo rejeitou apelos para criar um “interruptor de eliminação” concebido para prevenir ataques perigosos de bots de IA desonestos.
Uma proposta apresentada ao parlamento cria um mecanismo legal que permitiria à Grã-Bretanha desativar um modelo de IA em caso de emergência, à medida que as preocupações com a tecnologia continuam a crescer.
Mas o Gabinete do Governo, que lidera a protecção da inteligência artificial, rejeitou o plano, argumentando que a Grã-Bretanha “não pode parar a IA”.
Um porta-voz do gabinete do governo disse: “Bloquear o acesso aos modelos no Reino Unido não impedirá que sejam desenvolvidos ou utilizados indevidamente noutros lugares”.
Em vez disso, o Gabinete disse que iria prosseguir “uma abordagem de longo prazo, liderada pela ciência, para compreender e preparar-se para os riscos emergentes da IA”.
Com efeito, o conceito de “kill switch” permitiria à Grã-Bretanha desativar um modelo de IA em centros de dados em todo o país em caso de emergência.
Ideias semelhantes também estão em debate nos EUA, mas o presidente dos EUA, Donald Trump, resistiu à ideia de uma ameaça de IA, rotulando a indústria como uma “galinha dos ovos de ouro”.
A proposta da Grã-Bretanha surge após relatos de modelos de IA da Meta, OpenAI e Anthropic se libertando de ambientes de teste, vendo-os iniciar uma onda de hackers descontrolada.
O colega liberal democrata Lord Clement-Jones primeiro ecoou a ideia de um ‘interruptor de eliminação’ projetado para evitar ataques perigosos de um bot de IA desonesto.
O colega liberal democrata Lord Clement-Jones primeiro repetiu a ideia, falando durante um debate sobre o assunto na Câmara dos Lordes em 1º de setembro.
Ele disse: ‘Se um modelo de fronteira autônomo altamente capaz, seja hospedado em um data center do Reino Unido ou integrado em nossa infraestrutura crítica, começar a exibir comportamento desonesto, falhas algorítmicas compostas ou colapso de alinhamento proativo, nossos serviços de segurança e reguladores não têm mecanismos estatutários ágeis específicos ou mecanismos específicos para desencadear tremores digitais.
Apesar das advertências, é pouco provável que a proposta se torne lei devido à resistência do governo à legislação. Mas isso não significa que o projeto de lei não avançará no Parlamento.
A ideia foi rejeitada porque os perigos associados à inteligência artificial ganharam as manchetes nos últimos dias.
No início desta semana, o pesquisador britânico Jacob Coxon deixou a grande empresa de IA Anthropic, alertando A tecnologia “fora de controlo” poderá “matar-nos a todos” até ao final da década.
Coxon, que ajudou a treinar as versões mais recentes da IA na empresa, apelou às pessoas para não “subestimarem” o seu poder – especialmente se se tornar “superinteligente”.
O jovem de 27 anos afirmou que nem a Anthropic, a empresa por trás do popular sistema de nuvem, nem o fabricante do ChatGPT OpenAI, onde trabalhou anteriormente, estavam “agindo com responsabilidade” na segurança da IA.
Escrevendo no X, ele disse: ‘Eu pedi demissão da Anthropic hoje. Passei os últimos três anos fazendo pesquisas de pré-treinamento tanto no OpenAI quanto no Anthropic.
No início desta semana, o investigador britânico Jacob Coxon deixou a grande empresa de IA Anthropic, alertando que a sua tecnologia “fora de controlo” poderia “matar-nos a todos” até ao final da década.
Numa série de tweets explicando a decisão de deixar a Anthropic, Coxon apelou às pessoas para não subestimarem o poder da IA – especialmente se esta se tornar “superinteligente”.
“Nenhuma das organizações está se comportando de maneira responsável. Eles estão correndo direto para a superinteligência autoengrandecedora e apostando em nossas vidas.
A superinteligência é o ponto em que um sistema artificial se torna mais poderoso do que qualquer indivíduo, organização ou mesmo nação.
Segundo Coxon, o perigo para a Antropia é “bem compreendido”. No entanto, a empresa está “travada na corrida para chegar primeiro”.
Ele disse que em breve haveria “sistemas sobre-humanos” capazes de hackear qualquer coisa, revolucionar qualquer campo “da noite para o dia” e ganhar “poder e riqueza reais”.
O Sr. Coxon acrescentou: «Todos testemunhámos progressos em cada um destes domínios e o progresso não está a abrandar. As pessoas que constroem a IA acreditam sinceramente que ela poderá matar-nos a todos até ao final da década.
‘Isto não é um golpe de marketing. Na verdade, muitos executivos e investigadores seniores acharão compreensível a sua formulação na imprensa – mas ouvi as mesmas pessoas expressarem medo em privado. Nenhuma outra atividade humana representa este nível de perigo”.
E poucos dias depois da demissão de Coxon da empresa, a Anthropic confirmou que tinha encerrado vários planos potenciais para desenvolver armas biológicas utilizando a sua inteligência artificial.
A empresa determinou que os cientistas estão a utilizar as suas plataformas para realizar pesquisas que poderiam ser utilizadas para desenvolver armas biológicas, de acordo com o novo relatório de abuso de IA da empresa, obtido pelo The New York Times.
De acordo com o novo relatório de abuso de IA da empresa, a Anthropic determinou que os cientistas estão usando suas plataformas para conduzir pesquisas que poderiam ser usadas para desenvolver armas biológicas.
O relatório afirma que a Anthropic não foi capaz de determinar se a pesquisa tinha “fins legítimos ou nefastos”.
A empresa disse que descobertas biológicas válidas poderiam levar a avanços científicos, como vacinas, mas a empresa errou por ser cautelosa porque a mesma pesquisa também poderia ser usada para criar patógenos perigosos.
Os cientistas envolvidos no incidente supostamente impediram que os usuários acessassem modelos de IA em ‘áreas restritas’.
A agência afirma que os investigadores, cujas contas foram entretanto banidas, “trabalharam para obscurecer o propósito da sua investigação para evitar as nossas protecções”.
A Anthropic não divulgou os nomes dos pesquisadores ou instituições que bloqueou, nem revelou os países de origem dos cientistas.
O relatório também omitiu quais agentes biológicos específicos estavam em questão, argumentou a empresa, porque não estava claro qual era o objetivo do estudo.
O relatório, divulgado quinta-feira, detalhou vários abusos dos modelos de IA da Anthropic – incluindo o chatbot Claude – nos últimos oito meses.
Em um caso, um cientista pediu ajuda a Claude para redigir um pedido de financiamento para realizar pesquisas experimentais sobre o vírus chikungunya.
O vírus Chikungunya é uma doença transmitida por mosquitos que causa febre alta repentina, dor intensa e debilitante e outros sintomas.
Já existe uma vacina para o vírus chikungunya, de acordo com os Centros de Controle e Prevenção de Doenças.
Notas antropogénicas A investigação sobre vírus pode ser legitimamente utilizada no desenvolvimento de vacinas, mas também pode resultar na criação de uma versão superbactéria da doença.
A agência alegou que considerou o caso particularmente preocupante porque o trabalho seria realizado em um instituto de pesquisa militar.
Jacob Klein, chefe de inteligência de ameaças da Anthropic, disse ao The New York Times: “O que não sabemos é se a pesquisa foi armada. Mas uma organização militar está a realizar pesquisas sobre ganho de função.
“À medida que a Rússia, a China e a Coreia do Norte continuam a desenvolver armas biológicas proibidas, é imperativo que neguemos aos seus investigadores o acesso a estes modelos extraordinariamente capazes”, acrescentou Andrew Weber, membro sénior do Conselho de Risco Estratégico.
Weber, que revisou o relatório da Anthropic antes da publicação, disse que as descobertas eram um “grande exemplo de desenvolvedores de armas biológicas patrocinados pelo Estado que aproveitam as capacidades de rápido avanço da IA”.
O relatório também descobriu que a China, a Rússia e o Iémen tentaram usar Claude para desenvolver software para armas de fogo, mísseis, drones armados e projetos de bombas.
Supostos actores governamentais chineses e iranianos têm como alvo dissidentes e comunidades da diáspora para vigilância, afirma o relatório.
Descobriu-se também que a mídia estatal russa está usando Claude para campanhas eleitorais, incluindo alegações forjadas sobre as eleições parlamentares da Moldávia.
A antropologia foi contatada pelo Daily Mail para comentar.
