Donald Trump estava programado para um jantar com o CEO da Anthropic, Dario Amodi, na Casa Branca, na noite de domingo, em meio a discussões acaloradas sobre a ascensão da inteligência artificial.
Embora o presidente tenha sido um grande impulsionador da IA, pessoas dentro e fora da indústria alertaram para os seus perigos potenciais, incluindo a previsão de Bill Gates de que poderia matar mil milhões de pessoas.
Amodei – que segundo o The New York Times irá jantar com Trump no domingo à noite – é uma fonte que expressou cepticismo, dizendo às Nações Unidas no início desta semana: “Se for mal gerida, acredito até que a IA pode ser um risco para toda a humanidade”.
Ele apelou aos líderes mundiais para ajudarem a impedir que a IA desenvolva armas biológicas, para verificarem como os modelos são capazes de o fazer e para “estabelecerem padrões comuns” para testes e para perda de controlo e utilização indevida.
Trump – que propôs mudar a marca da IA para “superinteligência” ou “SI” – rejeitou repetidamente os apelos a um abrandamento, descrevendo os receios de que a IA pudesse “destruir a humanidade” como uma “HOAX”.
Ele argumenta que a América não pode dar-se ao luxo de ficar atrás da China e retrata a IA como uma importante nação económica e estratégica.
Trump atacou diretamente o alarmismo de Modi em uma postagem da Truth nas redes sociais no início deste mês.
‘A administração Trump impediu que “pessoas” de IA fizessem “coisas” ruins, ou potencialmente ruins, como Dario (antrópico!), que agora está fingindo ser um ‘anjinho perfeito’, e continuaremos a fazer isso!’
Donald Trump estava programado para um jantar com o CEO da Anthropic, Dario Amodi, na Casa Branca, na noite de domingo, em meio a discussões acaloradas sobre a ascensão da inteligência artificial.
O próprio Amodei é um cético inveterado, tendo dito na ONU no início desta semana: “Se for mal gerida, acredito até que a IA pode ser um risco para toda a humanidade”.
O Daily Mail entrou em contato com a Casa Branca e a Anthropic para comentar.
Trump tem demonstrado pouco interesse em regulamentar a IA, um motor-chave do recente crescimento económico dos EUA.
O próprio presidente republicano fez acordos com empresas de Silicon Valley que vinculam mais estreitamente a economia ao seu sucesso.
O capitalista de risco de São Francisco, David Sachs, que co-preside o Conselho Consultivo de Ciência e Tecnologia de Trump, rejeita os apelos para uma desaceleração da IA como sendo uma fonte de medo proveniente do “complexo industrial estúpido”.
A realidade é que a administração Trump já está a avaliar os modelos de alguns gigantes da tecnologia através de uma agência federal pouco conhecida, o Centro de Padrões e Inovação de IA dos EUA.
O presidente democrata Joe Biden criou a agência em 2023, quando foi promovida como uma câmara de compensação para submissões voluntárias de modelos avançados de IA a laboratórios.
A organização ainda existe, mas desde então o campo expandiu-se para incluir uma série de empresas de avaliação independentes, como a METR, sem fins lucrativos, com sede em Berkeley, Califórnia, que Amodei sugeriu num ensaio recente que poderia ajudar a examinar as práticas de segurança da sua empresa.
Mas o medo das novas tecnologias é real e ultrapassa as divisões partidárias numa América cada vez mais polarizada.
Amodei apelou aos líderes mundiais para que concordem em não permitir que a IA desenvolva armas biológicas, como verificar quais os modelos são capazes e para “estabelecer padrões comuns” para testes e para perda de controlo e utilização indevida.
Bill Gates (na foto) apelou a uma maior supervisão governamental da tecnologia emergente, ao mesmo tempo que partilhou que esta poderia causar “um bilhão de mortes”
Uma nova pesquisa do Politico conduzida pela Public First entre 13 e 15 de setembro descobriu que quase dois terços dos americanos acreditam que a IA avançada representa pelo menos um risco moderado de eventualmente destruir a humanidade.
As preocupações ultrapassam as linhas partidárias, com 70 por cento dos eleitores de Kamala Harris em 2024 e 60 por cento dos eleitores de Trump vendo tais riscos.
De acordo com a pesquisa, os americanos também estão inclinados a desacelerar ou interromper o desenvolvimento de IA mais avançada, em vez de simplesmente avançar.
Cerca de metade acredita que os líderes tecnológicos que alertam que a IA pode tornar-se catastrófica acreditam nos seus avisos, enquanto apenas 26% pensam que estão a usar a ameaça como um golpe de marketing.
Nem todas as empresas de IA apoiam a lentidão. Jensen Huang, CEO da fabricante de chips Nvidia, disse em uma conversa telefônica com Trump – a ligação que ele fez em uma conferência – que concordou que houve muito alarmismo em relação à IA e que as empresas poderiam escolher seu próprio ritmo.
Mas durante uma aparição no programa Meet the Press da NBC no domingo, o fundador da Microsoft, Gates, apelou a uma maior supervisão governamental da tecnologia emergente, partilhando-a poderia causar “um bilhão de mortes”.
‘A IA é certamente poderosa o suficiente para conduzir eventos que causam um bilhão de mortes’, disse Gates à moderadora do Meet the Press, Kirsten Welker, antes de acrescentar, ‘então, embora seja muito difícil chegar a 100 por cento (da humanidade), nunca houve uma arma mais poderosa do que uma combinação de pessoas com más intenções usando ferramentas sofisticadas de IA.’
Gates também ofereceu algumas soluções possíveis, enquanto Welker perguntou: “O que especificamente evitará as tragédias causadas pela IA?”
O CEO da OpenAI, Sam Altman, fala com o CEO da Meta, Mark Zuckerberg, em 24 de setembro, no jantar de Estado do presidente Donald Trump para o presidente chinês Xi Jinping. Altman e Zuckerberg são alguns dos pioneiros no mundo da IA
Ele alertou que a inteligência artificial poderia tornar perigosamente difícil distinguir entre cientistas que desenvolvem medicamentos que salvam vidas e agentes mal-intencionados que procuram desenvolver armas biológicas.
“Quero que seja mais fácil distinguir boas intenções, como quero conceber um novo medicamento para uma doença, versus intenções negativas, como quero conceber uma ferramenta de bioterrorismo”, disse Gates a Welker.
Isso ocorre depois que o antropólogo Jacob Coxon renunciou de forma sensacional ao cargo e acusou a empresa e sua rival OpenAI de não fazerem o suficiente para enfrentar os perigos potenciais da tecnologia no início deste mês.
Coxon alertou que os pesquisadores que trabalham na área acreditam que a IA poderá “matar todos os humanos” até o final da década.
Dias depois, um relatório etnográfico disse que este ano tinha encerrado vários planos potenciais para desenvolver armas biológicas usando a sua inteligência artificial.
De acordo com o novo relatório de abuso de IA da empresa, obtido pelo The New York Times, a empresa determinou que os cientistas estão usando suas plataformas para conduzir pesquisas que poderiam ser usadas para desenvolver armas biológicas.
Segundo o relatório, o antropólogo foi “incapaz de determinar se a investigação serviu a um propósito legítimo ou nefasto”.
A empresa observou que descobertas biológicas válidas poderiam levar a avanços científicos, como vacinas, mas a empresa errou por ser cautelosa porque a mesma investigação também poderia ser usada para criar agentes patogénicos perigosos.
