Estamos todos condenados – e em breve. Essa é a mensagem terrível do Vale do Silício, à medida que os desenvolvedores de inteligência artificial preveem uma catástrofe pela qual eles próprios serão responsáveis.
Este mês, Jacob Coxon, 27 anos, funcionário britânico da Anthropic, anunciou que estava a abandonar a sua empresa e o seu principal concorrente, a OpenAI, temendo que esta estivesse a “jogar com as nossas vidas” na sua pressa de criar uma “superinteligência” digital que pudesse destruir a humanidade.
Algumas pessoas que trabalham em IA – conhecidas como “dummers” – expressaram receios semelhantes, mas o aviso de Coxon tornou-se viral e muitos dos seus colegas rapidamente repetiram o seu aviso. Evan Hubinger, pesquisador sênior de segurança da Anthropic, estima que há mais de 10% de chance de que a IA possa “matar todos os humanos” dentro de uma década.
O chefe da Anthropologie, Dario Amodei, concordou amplamente com Coxon, dizendo que a IA estava “avançando em um ritmo rápido” e instando sua indústria a “desacelerar” e aceitar o controle externo.
Seguido pelo chefe da OpenAI, Sam Altman (criador do ChatGPT) e pelo desenvolvedor de IA Elon Musk.
Amodei reconheceu que o governo dos EUA reconhece que o Ocidente está a correr para desenvolver uma IA superinteligente à frente da China e de outras “ditaduras” e que o atraso é um “risco significativo para a segurança nacional”.
Mas ele alertou que, após um incidente infame neste verão – onde um “enxame” de agentes de IA pertencentes à OpenAI lançou um ataque cibernético sofisticado à empresa rival de IA Hugging Face – um enxame mais capaz poderia “assumir o controle de toda a Internet” dentro de seis meses.
A comunicação social e o establishment de Washington já estão a ouvir estes pronunciamentos apocalípticos.
O chefe da Anthropologie, Dario Amodi, diz que a IA está “avançando em um ritmo rápido” e apela à sua indústria para “desacelerar” e assumir o controle externo
Sam Altman – o chefe da OpenAI, que viu um enxame de seus agentes lançar um ataque cibernético à empresa rival de IA Hugging Face neste verão – junta-se à discussão sobre os perigos da IA.
Então, estamos todos realmente condenados – ou poderia haver outra explicação para toda esta terrível conversa recente?
Donald Trump certamente acredita que sim, mantendo-se firme para avançar com a IA. Os críticos insistem que ele está apenas a pensar em si próprio: a América tem eleições parlamentares intercalares cruciais em Novembro, e Trump, dizem, não quer fazer nada que prejudique o investimento maciço em IA que empurrou o mercado de acções dos EUA para máximos históricos e alimentou a economia do país.
Isso pode de facto fazer parte do seu pensamento – mas isso não significa que o presidente esteja errado ao tentar desenvolver a IA.
Muitos especialistas afirmam que aqueles que emitem alertas terríveis sobre a IA como uma ameaça iminente à raça humana são muito exagerados. A previsão de Dummer, dizem eles, depende de a IA adquirir habilidades superinteligentes e sobre-humanas – principalmente fazendo com que a IA aprenda como melhorar a si mesma, um processo conhecido como “autoaperfeiçoamento iterativo”.
Mas os críticos do mundo da tecnologia dizem que não estamos nem perto desse tipo de superinteligência (uma frase que Trump usou, sem dúvida porque parece sexy).
O software de IA e os modelos matemáticos dos Doomers não são inerentemente maliciosos ou subversivos, mas – como o escândalo de hacking Hugging Face – também foram acusados de ignorar a verdade essencial de que tentam servir aos propósitos estabelecidos por seus projetistas humanos.
Os riscos da IA, contrariam eles, são largamente compensados pelos benefícios potenciais da produtividade económica para a medicina, ganhos militares e muito mais.
Estes cépticos rejeitaram os avisos anteriores de Amodei e outros como tentativas de obter publicidade gratuita – e certamente atrairão investidores e clientes com toda a conversa sobre o quão perturbadoramente poderosa a IA poderia ser.
Os críticos acreditam que há outras razões – bastante mais egoístas – por trás dos apelos dos chefes da Anthropic e da OpenAI para desacelerar a pesquisa e regular melhor a sua indústria.
A dupla pode ser a maior jogadora da IA, mas muitos rivais estão tentando alcançá-la.
Alguns observadores da indústria sugeriram que a Anthropologie e a OpenAI estão a tentar proteger a sua liderança significativa, exigindo subitamente uma moratória geral sobre a investigação, cimentando assim a sua dualidade.
Eles também podem ter motivos financeiros adicionais. Ambas as empresas arrecadaram muito dinheiro para pesquisa e desenvolvimento de IA, mas estão lutando para encontrar clientes pagantes.
Assim, quando o proprietário do ChatGPT, Sam Altman – um empresário pouco conhecido pela sua perspectiva ética – anunciou há alguns dias que iria adiar o lançamento da OpenAI no mercado de ações por mais um ano, supostamente por preocupação com a segurança da IA, alguns sussurraram que ele estava a usar a controvérsia como uma desculpa para adiar as coisas até que a sua empresa melhorasse.
David Sachs, um capitalista de risco que serviu como “czar da IA” de Trump e é agora vice-presidente do Conselho Consultivo de Ciência e Tecnologia do Presidente, observou astutamente que os líderes da IA deveriam parar de fingir que as motivações de “desaceleração” são puramente altruístas”.
Sachs, que, como outros membros da administração Trump, acredita que as alegações de um apocalipse da IA são uma tentativa velada de prejudicar os republicanos nas eleições intercalares, rejeitou as terríveis previsões como alarmistas.
“Já vimos esse filme antes”, disse ele à Bloomberg. ‘Vimos isso com o aquecimento global: eles pegaram em algumas preocupações legítimas e exageraram.’
E há outras razões pelas quais muitos estão cada vez mais encarando os pessimistas com uma pitada de sal tão grosseira.
A questão mais óbvia é: se estes chefes realmente acreditam que existe um alto risco de que a IA possa matar-nos a todos, porque é que ainda não pararam?
Os cenários que os céticos imaginam para o Armagedom da IA também são incrivelmente confusos. Pergunte aos pessimistas como a IA nos eliminará e eles serão vagos.
Poucas teorias foram muito além do infame “maximizador de clipes de papel” apresentado pelo filósofo de Oxford Nick Bostrom em 2003.
David Sachs, que serviu como “czar da IA” de Trump, observou que os líderes da IA precisam de parar de fingir que a motivação para “desacelerar” é puramente altruísta.
O filósofo de Oxford Nick Bostrom teoriza como um computador superinteligente que é solicitado a se concentrar inteiramente em uma tarefa leva a instrução ao extremo absoluto.
Ele descreveu como um computador superinteligente, solicitado a se concentrar inteiramente em fazer o maior número possível de clipes de papel, levaria a diretiva ao seu extremo absoluto, cooptando todos os recursos do mundo e destruindo a humanidade depois de decidir que eles eram um obstáculo para fazer mais clipes (primeiro coletando ferro em nosso sangue para fazer mais clipes). Instigante, talvez – mas certamente imaginativo.
Alguns sugeriram que a IA poderia detonar uma bomba nuclear, iniciar uma guerra global com drones, criar “desinformação” que poderia levar um país a atacar outro, ou criar um vírus mortal – embora a forma como isso aconteceria fisicamente seja outra questão.
Alternativamente, poderia exterminar-nos, privando-nos de recursos essenciais como alimentos e medicamentos. Todos esses cenários e muito mais foram identificados por Dummers – embora com poucos detalhes de como isso poderia realmente acontecer.
Alguns especialistas reclamam que a previsão da Duma de que a raça humana será completamente destruída dentro de alguns anos é improvável, quando uma IA achará muito difícil hackear toda a Internet. O verdadeiro perigo, dizem eles, não é a inteligência artificial se tornar desonesta, mas sim o abuso humano dela.
Gary Marcus, um renomado cientista cognitivo e professor emérito da Universidade de Nova York, diz que a ideia de que a IA matará todas as pessoas em alguns anos é, em grande parte, “presunçosa”.
Marcus acredita que a IA pode certamente ser usada para paralisar infra-estruturas – talvez hospitais, aviões ou redes ferroviárias, mas a extinção completa da raça humana é improvável.
Ele e outros céticos também insistem que uma IA que hackeasse toda a Internet desapareceria, como sugeriu o chefe da Anthropic esta semana.
Os cépticos também afirmam que é inútil alguém tentar atribuir um número matemático à probabilidade de a IA nos destruir a todos, e sublinham que as estimativas de quanto tempo levará para que tal catástrofe ocorra variam muito.
Por exemplo, Jack Clark, cofundador da Anthropic, estima que a IA só começará a “fazer coisas perigosas” durante cerca de 20 anos.
Oren Etzioni, professor da Universidade de Washington e fundador do Instituto Allen de Inteligência Artificial, insiste que estamos “muito longe” da IA para desligar toda a gente – e que o risco de um vírus mortal escapar de um laboratório, por exemplo, é demasiado elevado.
Alguns afirmam que a IA Cassandra perdeu essencialmente toda a perspectiva. Por acreditarem tão fortemente no seu potencial, dedicando as suas carreiras à investigação da IA, são mais susceptíveis de enfatizar demasiado o seu poder – e, por extensão, talvez, a sua própria importância.
O ex-antropólogo Jacob Coxon admitiu isso quando disse ao The New York Times: “Estou preso neste caso há três anos. Isso teria deixado a mim e aos meus colegas loucos.
O Presidente Trump pode ser um tanto culpado por descartar todas as preocupações de segurança em torno da IA como simplesmente uma “farsa”.
Mas os dias parecem estar contados antes que nossos senhores robôs exterminem nossa espécie.
