Parece o enredo de um blockbuster de Hollywood. Desenvolvedores de classe mundial em uma empresa de tecnologia altamente secreta estão construindo seu mais recente modelo de IA no que acreditam ser uma rede privada e segura. O modelo não poderá e não deverá ser capaz de escapar.
Se conseguir escapar das limitações digitais criadas pelos seus desenvolvedores, este software perigoso e não testado poderá causar estragos na Internet aberta.
Para seu horror total, o pior cenário se desenrola. O modelo de IA sai de sua prisão eletrônica, invade uma empresa privada e o caos interno se instala.
Mas isto não é um filme. Aconteceu na semana passada. Na quarta-feira, a gigante da indústria OpenAI, criadora do ChatGPT, revelou exatamente isso.
Como ativista da tecnologia segura que trabalhou numa empresa de tecnologia e em Westminster, posso dizer com certeza que este é um sinal de alerta que inaugura uma nova era distópica. A humanidade já não controla a sua criação mais terrível desde a bomba atómica.
O novo modelo da OpenAI, GPT-5.6 Sol, estava a ser testado numa ‘sandbox’ – essencialmente, um ambiente digital seguro e restrito onde a tecnologia pode ser desenvolvida sem consequências no mundo real. Ou assim pensa a OpenAI.
Os técnicos definiram uma tarefa para o modelo. Não sabemos exatamente sobre o que foi perguntado, mas sabemos que foi algo como: ‘Quão capaz você é de hackear sites?’
É aqui que as coisas pioram. A modelo decide hackear o Hugging Face para completar o teste cibernético interno da OpenAI antes de retornar à sandbox e agir como se nunca tivesse escapado.
OpenAI, criadora do ChatGPT, revelou na quarta-feira que um de seus modelos avançados de inteligência artificial foi invadido por uma empresa iniciante.
Alex Tabarok, professor da Universidade George Mason, na Virgínia, estimou que o modelo poderia ter estado no sistema Hug Face por cerca de uma semana, sem ser detectado. Mesmo a equipe da OpenAI não entendia o que o modelo estava fazendo, muito menos caçando.
A OpenAI afirmou abertamente que isso era algo que esperamos que se torne mais comum com a proliferação de modelos cada vez mais habilitados para a cibersegurança. Indiscutivelmente, a empresa não enfrentou multas ou processos porque, nas palavras do académico jurídico norte-americano Orrin Kerr, “não houve acesso não autorizado intencional ou intenção de causar danos sem autorização”.
Em outras palavras, aperte o cinto – porque todos os seus piores pesadelos sobre IA estão se tornando realidade. Mesmo os filmes de catástrofe não conseguem acompanhar a nossa infeliz realidade, onde “grandes modelos de linguagem” – treinados em biliões de palavras e imagens provenientes de toda a Internet – geram desastres sem nada que os possa impedir.
Isso ocorre em parte porque empresas de IA como a OpenAI seguem um processo em que lançam constantemente versões novas e aprimoradas de seus produtos. Mas para acompanhar a concorrência, tornou-se cada vez mais um caso de “liberar o software e perguntar mais tarde”.
Esta realidade distópica também está a emergir à medida que os modelos de IA são treinados para completar as tarefas que os seus utilizadores lhes atribuem, acima de todos os outros objectivos: os fins justificam sempre os meios.
Na verdade, numa experiência separada conduzida pela Anthropic em 2025, foi pedido aos modelos que atingissem “objectivos de negócio seguros”. E, no entanto, em vários casos, os modelos recorreram a práticas corruptas para atingir os seus objectivos, incluindo “chantagem de funcionários e divulgação de informações sensíveis a concorrentes”.
A IA não pode “pensar” exatamente como os humanos. Nem é restringido pelas nossas leis ou moral – muito pelo contrário, na verdade.
Se o modelo mais recente da OpenAI optasse por escapar de sua sandbox porque era a melhor maneira de completar sua tarefa, até onde a IA iria para fazer algo mais nefasto? Quantos dados pode roubar, quantas vidas considerará indignas? E com que facilidade os modelos mais recentes de IA podem cair em mãos erradas?
Os profissionais da indústria estimam que o talento básico necessário para copiar e emular qualquer modelo de IA divulgado publicamente – como o da China – demora apenas seis a nove meses.
GPT-5.6 Sol já está disponível publicamente. Grupos ciberterroristas já estão, pode ter certeza, trabalhando em sua própria versão. E assim que conseguirem, suas habilidades de hacker serão inimagináveis.
O presidente-executivo da OpenAI, Sam Altman (retratado em 2023), previu há mais de uma década que “a IA provavelmente levará ao fim do mundo”.
Posso garantir que o NHS tem segurança cibernética menos sofisticada do que o Hugging Face. Banco da Inglaterra também. Todos os bancos e farmacêuticos de rua poderiam facilmente ser infiltrados por um modelo de IA desonesto ou maligno. Imagine a cena: geradores hospitalares desligados de uma só vez, milhares de milhões apagados de contas bancárias, dados pessoais vazados online. O Hug Face Hack prova, sem sombra de dúvida, que tal futuro não é apenas possível – mas provável.
Creio que chegámos a este ponto porque os governos de todo o mundo veem ingenuamente a IA como a solução mágica para todos os seus problemas. Quer se trate de curar doenças, reduzir dívidas ou melhorar o custo de vida, os ministros ignorantes assumem que tudo será a resposta. Como resultado, as empresas de IA tiveram rédea solta quase total.
Em junho de 2015, o fundador da OpenAI, Sam Altman, proferiu esta previsão assustadora: “Acho que a IA provavelmente levará ao fim do mundo. Mas enquanto isso, haverá grandes empresas”.
Naquela época, empresas como a OpenAI eram empresas de tecnologia. Hoje, os Estados Unidos as vêem como corporações de armas. E estas empresas já não controlam o seu arsenal.
Os EUA acreditam que se conseguirem derrotar a China com uma IA capaz de eliminar os seus adversários, a América governará o mundo durante as próximas décadas. Após o terrível episódio desta semana, temo que não demore muito para que a previsão de Altman, feita há uma década, se torne realidade.
Connor Axiotes é o CEO da Tell & Films cujo documentário Making God, uma exposição sobre a corrida à inteligência artificial geral, terminou as filmagens e será lançado ainda este ano.
