Um pesquisador da Anthropic emitiu um alerta assustador sobre a superinteligência auto-aprimorada que ele acredita que matará a humanidade até 2030.
Jacob Coxon, pesquisador da OpenAI e da Anthropic, anunciou na terça-feira que estava deixando o negócio de mídia social e alertou que nenhuma das empresas estava “agindo com responsabilidade”.
‘Eu pedi demissão da Anthropic hoje. Passei os últimos três anos fazendo pesquisas de pré-treinamento tanto no OpenAI quanto no Anthropic. Nenhuma das empresas está se comportando de maneira responsável. Eles estão correndo direto para a superinteligência auto-engrandecedora e apostando em nossas vidas”, escreveu Coxon.
A superinteligência é o ponto em que um sistema artificial se torna mais poderoso do que qualquer indivíduo, organização ou mesmo nação.
O ex-pesquisador por três anos continuou a implorar ao público do X: ‘Não subestime o poder desta tecnologia.’
“Em breve serão sistemas sobre-humanos que poderão hackear qualquer coisa, revolucionar qualquer campo da noite para o dia e ganhar poder e riqueza reais. Todos testemunhámos progressos em cada um destes domínios e o progresso não está a abrandar”, escreveu ele.
“As pessoas que fabricam a IA acreditam sinceramente que ela poderá matar-nos a todos até ao final da década. Isto não é um golpe de marketing. Na verdade, muitos executivos e investigadores seniores acharão compreensível a sua formulação na imprensa – mas ouvi as mesmas pessoas expressarem medo em privado. Nenhuma outra atividade humana representa este nível de perigo.
‘Uma resposta comum é: ‘Se eles realmente acreditam nisso, por que ainda estão fazendo isso?’ Na OpenAI, muitos não internalizaram profundamente a parte da civilização. Na Anthropic, os riscos são bem compreendidos, mas eles estão presos em uma corrida para chegar lá primeiro – eles acreditam que ninguém mais agirá de forma responsável, então devem fazê-lo, apesar do risco.
“Aceitar esta corrida e entrar no “fim do jogo” é uma aposta histérica de que uma empresa privada não deveria começar com folga. Uma tentativa de alinhamento de speedrun deve ter uma tremenda confiança de que não há melhor trajetória disponível.
‘Estou otimista quanto à possibilidade de sinergia. Tiros de advertência como Hugging Face Attack tornaram os acordos de ritmo entre laboratórios dos EUA mais eficazes. Não creio que estejamos no bom caminho para evitar uma corrida global, que poderá exigir medidas dispendiosas, como proibições temporárias de melhoria das capacidades dos modelos.
Jacob Coxon, pesquisador da OpenAI e Anthropic, anunciou na terça-feira que estava deixando o negócio através das redes sociais e alertou que nenhuma das empresas estava “agindo com responsabilidade”.
‘Eu pedi demissão da Anthropic hoje. Passei os últimos três anos fazendo pesquisas de pré-treinamento tanto no OpenAI quanto no Anthropic. Nenhuma das empresas está se comportando de maneira responsável. Eles são superinteligências que se autoengrandecem e correm para apostar com nossas vidas”, escreveu Coxon.
“Se você é um pesquisador de laboratório, recomendo que considere como serão realmente os próximos anos. Você quer iniciar uma corrida RL superinteligente sem o pesado fardo de sua mente? Você deveria manter a cabeça baixa porque “isso está acontecendo de qualquer maneira” – ou o momento deveria exigir termos diferentes?’
