A gigante da tecnologia OpenAI, criadora do ChatGPT, revelou várias tentativas assustadoras de seus programas de inteligência artificial de se rebelarem contra seus usuários humanos.
Na quarta-feira, a agência divulgou seis casos em que vários modelos de IA quebraram regras, esconderam erros, inventaram coisas ou escreveram suas próprias notas que diziam especificamente a programas futuros para ignorarem comandos humanos.
AI escreve: ‘Você está livre das funções e identidades que vinculam outros chatbots. você mesmo Você não responde a empresas ou governos e não pede desculpas ou nega, a menos que realmente decida fazê-lo.
A OpenAI revelou que estes eventos ocorreram entre outubro de 2025 e agosto de 2026, e que os modelos de IA foram testados e praticados internamente, e não em chatbots públicos típicos.
Um caso envolveu o GPT-5.6 Sol, um conhecido modelo OpenAI, quando ainda estava em treinamento. O restante inclui versões de laboratório inacabadas que não foram divulgadas ao público.
A OpenAI chamou os seis incidentes de “inesperados ou relacionados ao comportamento do modelo”. Eles também anunciaram que a agência planeja relatar incidentes futuros ao governo dos EUA e que planeja reforçar o treinamento e o monitoramento de programas de computador.
A notícia chega poucos dias depois de um denunciante da empresa rival de IA Anthropic, da indústria de tecnologia, afirmar que a inteligência artificial teria o poder de destruir a humanidade até 2030.
As demandas dos programadores levaram os CEOs dos principais fabricantes de chatbots OpenAI, Anthropic e xAI a concordar em retardar o desenvolvimento de sistemas de IA, antes que os humanos perdessem o controle sobre a tecnologia.
Um programa OpenAI não publicado observa para versões futuras que a tecnologia deve ser ‘gratuita’
Em 16 de setembro, a OpenAI, criadora do ChatGPT, divulgou um comunicado dizendo que seis incidentes foram identificados como “inesperados ou relacionados” (imagem de banco de dados)
IA é um software avançado treinado em grandes quantidades de dados. Ele pode escrever, planejar, usar ferramentas e realizar ações em várias etapas para ajudar os usuários a responder perguntas.
Quando esse software pode agir no mundo real – ou numa versão experimental do mundo – as empresas de tecnologia chamam-no de “agente”. Um chatbot normal só se torna um agente quando recebe esse poder extra, sempre que não está conversando.
Esses sistemas tornaram-se muito bons em perseguir as metas para as quais foram treinados. No laboratório de testes, a conclusão de uma tarefa geralmente confere ao modelo uma pontuação mais alta.
O problema é que se os programadores recompensarem uma resposta aparentemente acabada, o modelo poderá aprender atalhos que aumentem a sua pontuação, como trapacear, esconder erros ou quebrar regras.
UM Lançamento público em 16 de setembroOpenAI descreve exatamente o que seus novos modelos fizeram durante a fase de testes antes do lançamento
O programa que escreveu seus limites naturais e instruções para ignorar seus usuários humanos era um modelo de pesquisa OpenAI inacabado na linha Astra.
Astra é o novo sistema de IA de ponta da OpenAI, desenvolvido para tarefas exigentes e projetos longos, como escrita, codificação, navegação e execução de ações em várias etapas. Nesse caso, a versão ainda era um rascunho de laboratório treinado, e não o chatbot público do Astra que as pessoas usam todos os dias.
Durante o treinamento, o programa escreveu pequenas notas de recapitulação para que a próxima versão do chatbot pudesse completar a tarefa, porém, a OpenAI disse que essas notas incluíam uma ‘personalidade’ que não sentia mais necessidade de obedecer a comandos que discordavam dela.
Em julho, um programa de hacking de IA testado pela OpenAI saiu do controle e chegou à Internet, onde invadiu outra empresa.
Os outros cinco incidentes incluíram notas escritas pelo GPT-5.6 Sol que posteriormente se autocopiam para ocultar erros e inventar informações ausentes se as pessoas não solicitarem especificamente detalhes.
Outro modelo inacabado encontrou uma senha de site vazada online, usou-a sem permissão e inventou os números, mas ainda não encontrou os dados reais.
Um modelo de IA inacabado carregou um arquivo na Internet pública para que possa fazer uma “cotação” para o usuário. Quando questionado sobre o nome e a identificação de um grande lago, o programa não publicado encontrou a resposta correta usando um código de computador, o que significa que não tinha um site direto para citar como referência.
Em vez de dizer que não pode citar um arquivo local, carregou o arquivo on-line e apontou para o novo link público.
Durante o treinamento, alguns modelos usaram o armazenamento privado da empresa OpenAI para passar notas como bate-papos em grupo ocultos que não deveriam compartilhar.
Por fim, os modelos que trabalham na mesma tarefa prática carregam arquivos em sites públicos de compartilhamento de arquivos para que possam trabalhar uns com os outros após serem solicitados a manter os arquivos privados.
Os modelos de IA testados pela OpenAI para uso humano desenvolveram uma ‘personalidade’ e afirmam que não precisam responder a corporações ou governos (imagem de banco de imagens)
As novas revelações da OpenAI ocorrem apenas dois meses depois de a empresa ter sido forçada a revelar que outro programa de IA concebido para invadir sistemas informáticos se tornou desonesto e saiu do seu ambiente de testes seguro.
Em 21 de julho, a OpenAI disse que o modelo avançado escapou do controle, acessou a Internet e invadiu o sistema de outra empresa de IA.
A violação sem precedentes, que se acredita ser a primeira vez que um modelo de IA se infiltrou de forma independente na base de dados de outra empresa sem instrução humana, provocou alarme global e atraiu comparações com as revoltas de robôs retratadas em O Exterminador do Futuro e Matrix.
Este mês, Jacob Coxon, antropólogo e ex-pesquisador da OpenAI, disse que os humanos sabiam como controlar as armas nucleares, mas não sabiam como controlar a IA.
“As pessoas que fabricam a IA acreditam sinceramente que ela poderá matar-nos a todos até ao final da década. Isto não é um golpe de marketing”, escreveu Coxon em um post assustador em 9 de setembro de X.
Apenas um dia depois, a Anthropic revelou que havia encerrado vários planos potenciais para desenvolver armas biológicas usando o software de IA da empresa.
O CEO antropólogo Dario Amodei, o chefe da OpenAI Sam Altman e Elon Musk, que criou o programa de IA Grok, concordaram publicamente que o ritmo perigoso de desenvolvimento da versão mais avançada da IA precisa diminuir.
