No início deste mês, o pesquisador de inteligência artificial (IA) Jacob Coxon renunciou à Anthropic após apenas quatro meses. Num anúncio do X, ele disse: “As pessoas que estão construindo a IA acreditam sinceramente que ela poderá matar todos nós até o final da década”.
Um membro sênior da equipe da Anthropic, Evan Hubinger, concordou com Coxon, dizendo que pessoalmente acha que a probabilidade de isso acontecer na próxima década é superior a 10%.
Compreensivelmente, esta declaração causou agitação. Fala-se muito agora sobre desacelerar a pesquisa em IA e aumentar o “controle humano” sobre a tecnologia.
Mas como a IA pode matar todos nós? Não faltam cenários imaginativos, e a maioria deles envolve a ideia de IA ‘superinteligente’ – ou seja, uma IA que é mais capaz que os humanos.
Reduzi esses cenários a cinco principais, ordenados aproximadamente do mais vago ao mais específico. E eu diria que a lista está ordenada do menos provável para o mais provável.
1. Nunca saberemos
Os destruidores da IA muitas vezes justificam as suas preocupações com o irritante paradoxo do Catch-22: como podemos imaginar o que uma superinteligência poderia fazer para enganar criaturas menos inteligentes como nós?
Temos que ser superinteligentes para prever do que uma superinteligência seria capaz. É como pedir ao cachorro da sua família que imagine uma guerra termonuclear.
A boa notícia aqui é que a superinteligência provavelmente ainda está um pouco distante. Os modelos atuais de IA são realmente bons para resolver problemas específicos, mas não é o mesmo que ser mais inteligente que um ser humano em todos os domínios.
No entanto, a IA resolveu recentemente um dos sete problemas matemáticos mais desafiadores conhecidos. Aparentemente, está se aproximando de outros, o que pode fazer você se sentir menos otimista aqui.
E se a IA invadir a cadeia de comando e controle nuclear e iniciar uma guerra nuclear?
2. Clipes de papel
Uma IA superinteligente provavelmente seria extraordinariamente eficiente na consecução dos seus objetivos. Mas pode ser indiferente à sobrevivência humana.
Um exemplo clássico de tal apatia vem da imaginada IA superinteligente do filósofo de Oxford Nick Bostrom, projetada para otimizar a produção de clipes de papel. Para criar o formato preferido de material de escritório, ele converte rapidamente todos os objetos disponíveis – incluindo pessoas, planetas e estrelas – em clipes de papel.
O que temos aqui é a execução perfeita de objetivos mal definidos. A IA não odeia a humanidade; Simplesmente reconhece que somos feitos de átomos que poderiam ser melhor utilizados para clipes de papel. Não é pessoal.
A boa notícia aqui é que este cenário confunde inteligência com poder. Uma IA superinteligente não tem necessariamente a capacidade de atingir os seus objetivos. Seria necessária permissão de planejamento para transformar o planeta em uma fábrica de clipes de papel.
Mesmo que obtenha permissão, a construção de demasiadas fábricas de clipes de papel conduzirá inevitavelmente à indignação pública. Grupos de interesse bloquearão os processos judiciais. Os ambientalistas irão bloqueá-lo com escavadeiras.
Existem muitos atritos no mundo que impedem até mesmo os mais inteligentes de impor a sua vontade ao resto de nós. Na verdade, você pode pensar nos data centers como a personificação atual do cenário teórico do clipe de papel. E as pessoas estão cada vez mais contra a transformação do planeta num centro de dados.
Os humanos estão cada vez mais resistindo à transformação do planeta em um data center
3. Armas biológicas
A humanidade poderia ser morta criando uma IA superinteligente e liberando alguma nova arma biológica perigosa na atmosfera. Na verdade, isso é resultado do cenário AI 2027 do AI Future Project, uma organização sem fins lucrativos dedicada a prever o impacto da IA avançada.
Este risco foi ainda reforçado no mês passado, quando investigadores da Universidade de Stanford anunciaram que iriam utilizar um modelo de IA em linguagem genética para sintetizar 16 novos vírus.
De forma alarmante, eles enviaram as sequências genéticas para um laboratório de venda por correspondência, que enviou os vírus de volta aos tubos de ensaio. O custo de todo o experimento foi de várias centenas de milhares de dólares.
A boa notícia aqui é que é extraordinariamente difícil matar todas as pessoas com um novo vírus. Para fazer isso, você precisa de um vírus que seja altamente transmissível, por isso se espalhe por toda parte. Mas é uma lei da biologia – os vírus que se espalham facilmente são geralmente menos mortais. Por outro lado, se um vírus for muito virulento, a transmissibilidade é reduzida, uma vez que a maioria das pessoas infectadas morre antes da infecção se espalhar.
Covid matou menos de 1% da humanidade. A epidemia mais mortal registada na história foi a Peste Negra, quando a peste matou mais de um terço da população da Europa no século XIII. No entanto, mesmo com o aumento do nosso conhecimento médico e a melhoria do saneamento, a praga seria hoje muito menos mortal.
4. Guerra nuclear
E se a IA invadir a cadeia de comando e controle nuclear e iniciar uma guerra nuclear? Estivemos desajeitadamente perto da guerra nuclear várias vezes ao longo dos últimos 50 anos.
Dizem-nos que o comando e controlo nuclear está completamente isolado da Internet. Mas, como vimos em 2010, as centrífugas nucleares do Irão foram destruídas por um worm de computador chamado Stuxnet, que se acredita ter sido entregue numa pen USB. A IA também pode fornecer informações falsas aos militares, o que pode levar a ações irreversíveis.
A boa notícia aqui é que o estoque nuclear está em baixa. Mas provavelmente ainda são suficientes para levar metade de nós. E não será por explosão nuclear, mas pela fome nuclear no inverno que se seguirá.
Imagine se a IA causasse enormes perdas de empregos, poluindo o espaço da informação com desinformação, subvertendo a nossa política e destruindo as relações humanas com falsas companhias sintéticas.
5. Outras pessoas
Talvez o risco mais provável seja que nos descubramos. E a IA pode induzir isso.
Imagine – e não é preciso muita imaginação – que a IA perca massivamente empregos, polua o espaço da informação com desinformação, perturbe a nossa política e destrua as relações humanas com falsas companhias sintéticas.
A sociedade pode facilmente entrar em colapso. Lenta mas seguramente, deixaremos de ser capazes de sustentar a vida humana em qualquer escala.
Então, o que tirar de todos esses cenários? Definitivamente, há algumas coisas com que se preocupar. Mas não se preocupe muito, espero.
Autor deToby Walsh Deus AI: Rugir ou Destruir? O que esperar quando as máquinas nos ultrapassaremPublicado pela La Trobe University Press.
– Leia mais: Trump lança ‘esquema globalista’ defendido por Anthony Albanese enquanto o presidente lança uma oferta ousada para renomear inteligência artificial
