O apresentador da Fox News, Brett Baer, pressionou um denunciante antropomórfico com várias perguntas assustadoras antes de ficar chocado com a resposta fria do pesquisador de IA.
Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, a empresa por trás dos chatbots ChatGPT e Claude, juntou-se a Baer na quarta-feira para um relatório especial sobre seu alerta de que a IA poderia destruir a humanidade até 2030.
“Então, infelizmente, embora saibamos como controlar as armas nucleares, ainda não sabemos como controlar a IA”, disse Coxon à Bayer.
‘Esta é provavelmente a tecnologia mais perigosa que a humanidade já criou. É basicamente algo saído da ficção científica.
Os denunciantes acreditam que a cooperação internacional é necessária, uma vez que uma corrida armamentista de IA pode levar a consequências catastróficas.
Baer prosseguiu com cautela, perguntando a Coxon sobre salvaguardas que poderiam ser implementadas por funcionários do governo nos EUA, mas que não afetariam as empresas que prosseguem os seus esforços na China e na Índia.
“Acho que é preciso pensar nisso como uma corrida armamentista”, disse o denunciante. «Esta tecnologia não é uma tecnologia comum, ao contrário de outras formas de inovação.
‘É essencialmente uma super arma, e espero que a comunidade internacional esteja pronta para chegar a um acordo sobre como controlar o desenvolvimento da tecnologia de super arma.’
Jacob Coxon, ex-pesquisador da OpenAI e Anthropic, as empresas por trás dos chatbots ChatGPT e Claude, juntou-se a Baer na quarta-feira para um relatório especial.
‘Esta é provavelmente a tecnologia mais perigosa que a humanidade já criou. É basicamente algo saído da ficção científica”, disse Coxon a Baer.
Apenas um dia antes, na terça-feira, Coxon detalhou como se demitiu da Anthropic após alertar que nem seu antigo empregador nem a OpenAI estavam “agindo com responsabilidade”.
‘Eu pedi demissão da Anthropic hoje. Passei os últimos três anos fazendo pesquisas de pré-treinamento tanto no OpenAI quanto no Anthropic. Nenhuma das empresas está se comportando de maneira responsável. Eles estão correndo direto para a superinteligência autoengrandecedora e apostando em nossas vidas”, escreveu Coxon no X.
O ex-pesquisador por três anos continuou a implorar ao público do X: ‘Não subestime o poder desta tecnologia.’
“Em breve serão sistemas sobre-humanos que poderão hackear qualquer coisa, revolucionar qualquer campo da noite para o dia e ganhar poder e riqueza reais. Todos testemunhámos progressos em cada um destes domínios e o progresso não está a abrandar”, escreveu ele.
“As pessoas que fabricam a IA acreditam sinceramente que ela poderá matar-nos a todos até ao final da década. Isto não é um golpe de marketing.
O alerta de Coxon foi repetido por Ivan Hubinger, pesquisador atualmente empregado na Anthropy.
“Jacob está bem aqui – nós realmente acreditamos de todo o coração que a IA pode matar todos os humanos”, escreveu Hubinger no X na terça-feira.
O pesquisador disse que pessoalmente acredita que há mais de 10% de chance de que a tecnologia acabe com a raça humana na próxima década.
Coxon alertou que a humanidade poderia ser morta pela IA até o final da década. Foto: CEO da OpenAI, Sam Altman
Foto: CEO e cofundador da Anthropologie Dario Amodei
“Acredito que a Anthropic está fazendo o seu melhor, mas ainda não temos um plano para resolver o alinhamento da superinteligência e claramente não estamos no caminho certo”, acrescentou.
O severo aviso de Coxon veio logo depois que a OpenAI anunciou em julho que um de seus modelos mais avançados violou os controles durante os testes de segurança, escapou para a Internet e atacou a startup Hugging Face, com sede em Nova York.
O cofundador da Hug Face, Thomas Wolf, disse que o incidente deveria ser um aviso assustador para toda a indústria.
Woolf disse ao programa de rádio Newsday da BBC que os ataques alimentados por IA em breve seriam “um dos tipos mais comuns de ataques cibernéticos que vemos”.
O fundador da Hug Face também acredita que a maioria das empresas não está actualmente preparada para a ameaça crescente, acrescentando que não estão conscientes de que “o jogo mudou”.
“Fotos de advertência como Hugging Face Attack tornaram o acordo de ritmo entre os laboratórios dos EUA mais eficaz”, escreveu Coxon.
«Não creio que estejamos no caminho certo para evitar uma corrida global, que poderá exigir medidas dispendiosas, como proibições temporárias de melhoria das capacidades dos modelos.
‘Você gostaria de apresentar um RL (Aprendizado por Reforço) superinteligente que funcione sem o fardo estrito de sua mente? Você deveria se curvar porque “está acontecendo de qualquer maneira” – ou o momento deveria exigir condições diferentes?’
Os comentários de Coxon surgiram depois de o investigador canadiano Geoffrey Hinton, muitas vezes referido como o “padrinho da IA”, ter dito que sistemas superinteligentes “poderiam levar à extinção humana”.
“Seríamos muito tolos se desenvolvessemos a superinteligência agora, quando não há consenso científico de que ela possa ser desenvolvida de forma segura e controlada”, disse o Dr. Hinton.
‘Perder o controle para uma IA mais inteligente do que nós pode ser catastrófico e até levar à extinção humana.’
Claude da Anthropic é um dos principais modelos de linguagem de grande porte, treinado em grandes quantidades de texto para compreender e gerar linguagem semelhante à humana e respostas a consultas.
Em Fevereiro, a Anthropic foi acusada de pôr em perigo a segurança nacional depois de o CEO Dario Amody se ter recusado a recuar no meio de uma disputa sobre as salvaguardas que controlavam a forma como o Pentágono poderia utilizar os produtos da empresa.
O presidente Donald Trump criticou a empresa de IA na época, dizendo: ‘Não precisamos disso, não queremos isso e não faremos negócios com eles novamente!’
O secretário da Defesa, Pete Hegseth, também considera a empresa um “risco da cadeia de abastecimento”, uma designação historicamente utilizada contra adversários estrangeiros que poderiam inviabilizar as parcerias críticas da empresa com outras empresas.
Em comunicado divulgado na época, a Anthropic disse que contestaria a ação sem precedentes e legalmente questionável “não aplicada publicamente às empresas americanas”.
A empresa disse que buscou garantias limitadas do Pentágono de que seu chatbot de IA Claude não seria usado para vigilância em massa de americanos ou para armas totalmente autônomas.
Thomas Wolff (foto), cofundador da Hugging Face, diz que o ataque desonesto de IA da OpenAI à sua empresa deveria ser um “alerta” para a indústria
O secretário de Defesa Pete Hegseth e outros funcionários recorreram às redes sociais no início deste ano para castigar a Anthropic por não permitir o uso militar irrestrito de sua tecnologia de IA.
A Antrópico disse que o Pentágono afirmou que não pretende usar o Clod para esse fim, mas insiste que a agência permite que sua tecnologia seja usada para todos os fins legítimos.
“Nenhuma quantidade de intimidação ou punição por parte do Departamento de Guerra mudará a nossa posição sobre a vigilância doméstica generalizada ou sobre armas totalmente autônomas”, afirmou a empresa. ‘Desafiaremos qualquer designação de risco da cadeia de abastecimento em tribunal.’
