Orgulhosamente envolto numa bandeira sindical, o rapper da classe trabalhadora Danny Bones cativou milhões com o seu discurso direto sobre a imigração em massa e o declínio da Grã-Bretanha.
Em sua faixa mais popular, This Is England, ele lidera uma multidão carregando cruzes de São Jorge por ruas em chamas em uma fantasia distópica do Reino Unido.
Enquanto os carros da polícia queimam em forma de conchas negras, Bones canta em coro: “É a Inglaterra – não pergunte por quê”, antes de descrever uma nação que ele afirma ter “caído” e onde está o “B”.Os benefícios são extensos, mas as fronteiras estão abertas.’
Mas apesar de todas as preocupações políticas genuínas sobre a imigração, a identidade nacional e uma Grã-Bretanha destroçada que partilha com os seus devotados seguidores, o próprio Bone não existe.
O rapper de queixo esculpido e tom profundo é na verdade uma persona gerada por IA criada por um ‘coletivo’ de influenciadores anônimos, chamado The Node Project, como uma ferramenta de propaganda para o grupo de direita Advance UK.
Os defensores da democracia acreditam que é a primeira vez que um partido registado no Reino Unido utiliza a IA para expandir as suas políticas – com alguns preocupados que Bones possa ser o início de uma nova tendência no uso de ferramentas tecnológicas para influenciar os eleitores.
A Advance UK encomendou e pagou ao The Node Project para produzir uma série de vídeos referenciando imigrantes, muçulmanos e minorias étnicas, descobriu uma investigação do Daily Mail e do Bureau of Investigative Journalism.
No Spotify, YouTube, TikTok e Instagram, as faixas e clipes de Danny Bones foram vistos milhões de vezes.
O rapper da classe trabalhadora Danny Bones cativa milhões com a sua visão franca da imigração em massa e do declínio da Grã-Bretanha – mas ele não é real.
O rapper de queixo esculpido e tom profundo é uma persona gerada por IA criada pelo Node Project como uma ferramenta de campanha para grupos de extrema direita, Advance UK
O conteúdo inclui os principais filmes de campanha usados pelo partido durante as recentes eleições parciais em Gorton e Denton, na Grande Manchester.
O Advance UK foi fundado no ano passado por Ben Habib, ex-vice-líder do Reform UK, e está à direita do partido de Nigel Farage.
No período que antecedeu a eleição, o partido lançou um vídeo de dois minutos nos seus canais de redes sociais que foi visto dezenas de milhares de vezes e até recentemente aparecia como o vídeo principal no seu website.
O filme apresenta cenas vívidas da história britânica – guerreiros anglo-saxões, soldados da Segunda Guerra Mundial e os Beatles atravessando Abbey Road – ao lado de uma narrativa dramática que celebra a herança do país e se opõe a ela. Versão instrumental de uma faixa de Danny Bones.
Tanto a Advance UK quanto o projeto Node confirmaram que a parte pagou pela produção.
O Projeto Node também criou uma persona de IA – uma personagem de cabelo roxo chamada Amelia – que aparece em vários vídeos e clipes independentes de Danny Bones.
O personagem foi originalmente criado pela organização de alfabetização política e midiática Shout Out UK para um videogame financiado pelo Home Office, projetado para desencorajar o extremismo entre os jovens.
Mas o personagem foi posteriormente adotado pela comunidade online de extrema direita e desde então apareceu ao lado do conteúdo de Danny Bones.
Especialistas alertam que esse conteúdo político gerado por IA pode se tornar cada vez mais comum à medida que ferramentas de geração de música, vídeo e voz sintética se tornam mais fáceis de usar.
O fundador da Shout Out UK, Matteo Bergamini, disse ao Daily Mail que figuras como Amelia e Danny Bones representam um fenômeno crescente de personagens de IA sendo usados para promover mensagens políticas.
‘O facto de estas coisas poderem ser fabricadas em massa e realmente empurradas para moldar uma narrativa específica – seja ela política, social ou relacionada com a saúde… O que estamos potencialmente a ver é um colapso do ecossistema de informação se for permitido que isto continue.’
Pouco se sabe publicamente sobre o grupo por trás de Danny Bones.
O Node Project não parece estar registado como empresa e o seu website indica o seu endereço como um museu de género em Reykjavík – uma referência por vezes utilizada por utilizadores online anónimos.
Quando contactado, o grupo descreveu-se como um “pequeno grupo de criativos” que estava a fazer experiências com narrativas de IA e afirmou “absolutamente” que o seu conteúdo era islamofóbico.
Em comunicado, dizia: “O Projeto Node é um projeto criativo construído em torno de personagens fictícios, música, narrativa visual e construção de mundo.
‘Danny Bones é um personagem fictício desse mundo criativo. Amelia também é uma personagem fictícia recorrente na mesma obra maior.
«O objectivo do projecto é artístico e cultural. Está enraizado na liberdade criativa, nas tradições artísticas contraculturais e na ideia de que a arte deve desafiar as convenções em vez de simplesmente conformar-se com elas.
O Projeto Node também criou outra persona de IA – uma personagem de cabelo roxo chamada Amelia, que foi adotada pela comunidade online de extrema direita e aparece nos vídeos da Sister.
‘Este não é um veículo ou campanha de partido político.
«Rejeitamos completamente a caracterização do Projecto Node ou do seu conteúdo como “islamofóbico”. Este é um rótulo muito sério e não é uma descrição precisa ou justa do seu resultado.’
Desde que foi apresentado à investigação, o TikTok baniu a conta do Node Project por violar as regras de conteúdo de ódio. O Instagram removeu diversas postagens, enquanto o Spotify afirmou que as faixas não violavam suas políticas.
A Comissão Eleitoral do Reino Unido disse que espera que os ativistas esclareçam quando o conteúdo político é produzido usando inteligência artificial, mas confirmou que não regula diretamente esse tipo de material.
