Pode surgir um novo tipo de ameaça política, e é muito menos visível do que as manifestações ou a manipulação eleitoral tradicional. Os investigadores alertam que indivíduos altamente realistas controlados pela IA poderão em breve desempenhar um papel mais importante na formação da opinião pública e na influência dos sistemas democráticos.
Um documento recente do Fórum de Políticas foi publicado ciência Descreve como grandes grupos de indivíduos gerados por IA podem imitar fortemente o comportamento humano online. Estes sistemas podem entrar em comunidades digitais, participar em discussões e influenciar atitudes com uma velocidade extraordinária. Ao contrário das redes de bots anteriores, esses agentes de IA podem coordenar instantaneamente, responder a comentários e manter detalhes consistentes em milhares de contas.
Como as pessoas de IA imitam pessoas reais online
Os rápidos avanços em grandes modelos de linguagem e sistemas multiagentes tornaram possível que um único operador gerencie grandes redes de “vozes” de IA. Essas personas podem parecer autênticas, adotar linguagem e tom nativos e se comunicar de maneiras que pareçam naturais para outros usuários.
Eles também são capazes de realizar milhões de testes em pequena escala para determinar quais mensagens são mais persuasivas. Isto permite-lhes refinar as suas estratégias de comunicação em tempo real e construir o que parece ser um amplo acordo público. Na realidade, esse consenso é criado artificialmente e concebido para influenciar o discurso político.
Deepfakes e notícias falsas indicam o principal risco
Embora os enxames de IA totalmente desenvolvidos ainda sejam em grande parte teóricos, os investigadores dizem que já existem sinais de alerta. De acordo com o cientista da computação da UBC, Dr. Kevin Layton-Brown, isso inclui deepfakes gerados por IA e meios de comunicação falsos que influenciaram conversas eleitorais recentes em países como Estados Unidos, Taiwan, Indonésia e Índia.
Ao mesmo tempo, as agências de monitorização identificaram redes pró-Kremlin que divulgam grandes quantidades de conteúdos online. Acredita-se que esta atividade visa moldar os dados utilizados para treinar futuros sistemas de IA, influenciando potencialmente a forma como esses sistemas se comportam e quais informações eles priorizam.
Especialistas alertaram para a crescente influência na democracia
Olhando para o futuro, os especialistas acreditam que os enxames de IA podem afetar significativamente o equilíbrio de poder nas sociedades democráticas. O Dr. Layton-Brown alertou que estes sistemas podem potencialmente mudar a forma como as pessoas confiam nas informações online. “Não deveríamos imaginar que a sociedade permanecerá inalterada à medida que estes sistemas emergem. Um resultado possível é a perda de confiança em vozes desconhecidas nas redes sociais, o que pode capacitar as celebridades e tornar as mensagens populares mais difíceis de transmitir.”
Os pesquisadores sugerem que as próximas eleições poderão servir como um teste importante para esta tecnologia. O principal desafio será reconhecer e responder a estas campanhas de influência impulsionadas pela IA antes que se tornem demasiado difundidas para serem controladas.
