Um dos influenciadores comerciais FIFO mais seguidos – e mais extravagantes – da Austrália foi revelado como a figura perfeita para a inteligência artificial.
A conta Bindi Rai (@bindiidotraye) tem mais de 80.000 seguidores no Instagram, pois segue o ativista de 20 anos que mora em Perth.
Ele afirma apresentar conteúdo sugestivo e insights sobre sua vida filmados em minas remotas durante a gíria tradicional para a semana de trabalho ‘ligado’ e ‘desligado’ durante as ‘balanços’ do FIFO.
A conta traz fotos e vídeos de Roy no trabalho, na praia, assistindo ao time West Coast Eagles AFL e relaxando com os amigos.
O perfil também está vinculado a uma conta Fanvue no estilo OnlyFans, onde os seguidores podem pagar até US$ 115 por vídeos pornográficos e até US$ 9,24 por mês por uma assinatura contínua.
Mas é apenas a primeira menção ao conteúdo de IA nas letras pequenas dos detalhes da conta Fanvue – e a revelação de que é tudo falso.
O chefe de confiança e segurança da Fanvue, Rob Haywood, reconheceu que Bindi Raye é uma criação de IA, mas insistiu que mesmo as contas Fanvue de ‘personalidades completas de IA’ são gerenciadas por pessoas ‘reais’.
Sinais reveladores de conteúdo de IA na conta de Raye incluem erros ortográficos frequentes e distorções de fundo, bem como inconsistências nas características faciais dos vídeos.
A professora de segurança cibernética da Universidade de Queensland, Priyanka Singh, disse à ABC que a conta de Roy parecia ser “quase 100% gerada por IA”.
O glamouroso estilo de vida FIFO de Bindi Roy foi chamado de ‘100 por cento de IA gerada’ por especialistas
As fotos incluem Anumit Roy curtindo férias nos trópicos
A descrição da conta Fanvu de Roy menciona apenas ‘conteúdo gerado por IA’
‘Posso ver que a sincronização labial não está de acordo com o que ela está dizendo, posso realmente ver algumas inconsistências de quadro… e então você vê inconsistências de sombra.
“As pessoas têm a percepção de que, se for gerado por IA, será um videoclipe de baixa resolução que será muito fácil de discriminar e identificar como falso”, acrescentou.
‘Ver para crer.’
A Meta, controladora do Instagram e do Facebook, disse que estava trabalhando para remover as contas de Roy porque violavam as políticas da empresa.
“Embora o conteúdo gerado por IA não seja contra nossas regras, ele confunde as pessoas sobre quem está por trás de uma conta, e exigimos que as pessoas divulguem quando publicam conteúdo realista gerado por IA”, disse um porta-voz da Meta.
As contas de Roy ainda estavam disponíveis online na noite de sexta-feira.
Este é apenas o exemplo mais recente de uma lista crescente de influenciadores que dependem de conteúdo de IA para impulsionar o engajamento.
Em julho, a influenciadora Lily Jay Hinson, 31 anos – apelidada de ‘Belle Gibson 2.0’ – foi exposta por usar vídeos de IA para humanizar seu conteúdo após uma investigação da ABC News Verify.
Outra foto de IA de Roy, supostamente depois de caminhar por Bluff Knoll
O conteúdo postado na conta Raye inclui imagens supostamente tiradas no local de trabalho
Meta, controladora do Instagram e do Facebook, disse que estava trabalhando para remover as contas de Roy porque violavam as políticas da empresa
Uma pesquisa nas suas publicações online revelou que várias fotos e vídeos foram criados e melhorados pela IA para promover o seu trabalho de caridade nos países em desenvolvimento.
Embora Hinson negue veementemente as alegações, a conta do Instagram da Fundação Lily J divulgou um comunicado reconhecendo que usou IA em seu conteúdo de vídeo.
“Ao criar um número muito limitado de materiais de marketing de mídia social, os membros de nossa equipe de marketing incluíram um pequeno número de clipes introdutórios gerados por IA com Lily J”, dizia o comunicado.
“Essas curtas sequências introdutórias, geralmente durando apenas alguns segundos, foram usadas apenas como ganchos de abertura antes de passarmos para imagens reais da ação humana.
“Eles representam uma pequena fração das centenas de clipes compartilhados em nossa plataforma e nunca foram usados para representar, substituir ou criar atividades humanitárias ou de ajuda”.
A investigação da ABC centrou-se num vídeo que Hinson partilhou em Fevereiro, no qual afirmava ter aberto um orfanato para crianças no Uganda.
No clipe, as crianças são vistas vestindo camisetas brancas estampadas com a bandeira de Uganda e o logotipo da Fundação Lily J enquanto torcem e agitam pirulitos no ar.
“Nós os lavamos, demos roupas novas, tudo que uma criança precisa para crescer em um ambiente positivo”, diz ela na filmagem.
Lily J Hinson – apelidada de ‘Belle Gibson 2.0’ – foi flagrada usando conteúdo gerado por IA em seus vídeos de caridade
Hinson negou veementemente as acusações. Ele converteu-se recentemente ao Islão e está a trabalhar numa área dominada pelos muçulmanos.
No entanto, a ABC afirma que a aparição de Hinson no vídeo é gerada por IA, assim como clipes de crianças segurando pirulitos.
O banner atrás de Hinson, que novamente mostra o logotipo de sua fundação, desaparece repentinamente em vários pontos do vídeo.
Outro ângulo mostrava as costas de uma das camisas brancas que ele vestia, que parecia escrever incorretamente o nome de sua fundação.
O vídeo já foi removido da página de Hinson.
Leia também: ‘Influenciadores’ gêmeos siameses que conquistaram mais de 280.000 seguidores com suas histórias íntimas sobre seus corpos compartilhados revelados como IA
