Um sistema de segurança TikTok no qual milhões de pais confiam não está conseguindo impedir vídeos explícitos que retratam estupro e abuso infantil, pode revelar o The Mail on Sunday.
O “modo restrito” do aplicativo destina-se a filtrar conteúdo prejudicial, mas as falhas permitem que usuários menores de idade lucrem com as empresas, bombardeando-as com clipes perturbadores gerados por IA.
Os vídeos exploraram uma lacuna nas regras do TikTok, que proíbem “violência realista” e “conteúdo sexualmente sugestivo”, mas permitem a passagem de representações animadas.
Uma empresa iniciante, a Director AI, desenvolveu ferramentas de criação de vídeo que permitiram aos usuários criar mais de 15.000 clipes incríveis, cada um projetado por algoritmos para ser viciante.
Um vídeo em uma de suas 50 contas, visto mais de 120 milhões de vezes, mostra um médico de desenho animado fazendo crescer o rosto de uma paciente com uma broca durante uma operação para transformá-la em uma sósia de Kim Kardashian.
Outra mostra um ladrão tatuado se vingando de uma mulher rica que uma vez zombou de sua pobreza, roubando sua mansão.
A filmagem mostra suas mãos musculosas em volta dos pulsos enquanto ele solta um grito horripilante.
Ele então é visto rindo enquanto sai com o zíper do short aberto, o dinheiro roubado e as barras de ouro, espancado, machucado e chorando.
Um sistema de segurança TikTok no qual milhões de pais confiam não está conseguindo impedir vídeos explícitos que retratam estupro e abuso infantil, pode revelar o The Mail on Sunday.
Os vídeos exploram uma lacuna nas regras do TikTok, que proíbem “violência realista” e “conteúdo sexualmente sugestivo”, mas permitem a passagem de imagens animadas.
Ontem à noite, depois de ver as imagens, a secretária de educação paralela, Laura Trott, disse: ‘Nunca toleraremos que este conteúdo seja exposto offline a crianças, por isso os apelos devem ser feitos online.
“As empresas de mídia social não deveriam dar acesso aos nossos filhos até que eles possam provar que suas plataformas são seguras. Os trabalhadores devem parar de arrastar os pés e manter as crianças fora das redes sociais.’
Para nossa investigação, configuramos uma conta no TikTok em ‘modo restrito’, definida para maiores de 14 anos, e assistimos algumas horas de conteúdo de programas de TV infantis.
Limitamos pornografia, armas de fogo e armas, conteúdo sexualmente sugestivo, drogas, imagens violentas ou ameaçadoras e conteúdo adulto ou complexo.
Mesmo assim, o feed principal da conta foi bombardeado com uma quantidade significativa de conteúdo dentro de cada uma dessas categorias.
A empresa por trás dos vídeos é dirigida pelo ex-diretor do Snapchat, Ben Chiang. Chiang – um pai casado – referiu-se publicamente ao resultado como “resíduos de IA”. No início deste ano, ele vangloriou-se no LinkedIn de que os vídeos tinham recebido mais de 10 mil milhões de visualizações.
Quem quiser continuar assistindo deve pagar pelo acesso por meio do aplicativo complementar da empresa, Reel AI, classificado como adequado para crianças menores de sete anos no Google Play.
Oferece até dez episódios gratuitos de cada minissérie antes de cobrar dos espectadores por episódio. Um episódio comprado mostra uma mãe colocando seu bebê na banheira e eletrocutando-o com um secador de cabelo.
A especialista em segurança online e psicoterapeuta Dra. Catherine Nibbs disse: ‘Trata-se de criar riqueza às custas das crianças.
‘Você teria que ser uma pessoa seriamente desconectada para não ver os danos que esse conteúdo cuidadosamente selecionado pode causar.’
Um vídeo mostra um ladrão tatuado se vingando de uma mulher rica que uma vez zombou de sua pobreza, vandalizando sua mansão.
Chiang co-fundou a Director AI no ano passado com dois ex-colegas. Questionado sobre quem era o proprietário das contas TikTok que produziram os vídeos, Chiang, que faz parte do conselho de uma instituição de caridade para jovens sem-abrigo, disse ao MoS: “É errado identificar o próprio diretor AI como tendo criado e publicado todos os vídeos criados usando as nossas ferramentas.
‘Director AI AI fornece ferramentas de produção de vídeo que os criadores usam para criar conteúdo. Esses criadores tomam suas próprias decisões editoriais e escolhem onde publicar seu trabalho, inclusive em plataformas de terceiros como o TikTok… Eles podem optar por promover o Reel AI, mas não possuímos suas contas nem os pagamos especificamente para promover o aplicativo.’
Chiang acrescentou: “Algum conteúdo criado usando nossas ferramentas pode conter temas fictícios para adultos, mas o próprio TikTok e outras plataformas determinam a elegibilidade para filtragem dentro de seu modo restrito de acordo com seus próprios sistemas e políticas”.
Seguindo a comunicação do MoS, a classificação etária do Reel AI foi alterada antes da próxima atualização do aplicativo.
Um porta-voz do TikTok enfatizou que as diretrizes da comunidade da plataforma proíbem conteúdo que promova ou glorifique a violência e o abuso ou exploração sexual.
Eles disseram que qualquer vídeo que viole os padrões será removido. Após ser contatado pelo MoS, o TikTok removeu os vídeos citados na reportagem – mas as contas que os criaram continuam ativas e ainda mostram outros materiais inapropriados semelhantes.
Um porta-voz do Departamento de Cultura, Mídia e Esporte disse que o governo tem o “apoio total” do regulador de radiodifusão Ofcom para garantir que as empresas de tecnologia cumpram as leis de segurança online.
“Essas organizações têm a responsabilidade legal de proteger as crianças de conteúdos nocivos, além de remover conteúdos ilegais”, afirmaram.
Meta enterrou o risco de segurança infantil
A proprietária do Instagram, Meta, não divulgou publicamente descobertas internas de que “problemas sérios” colocam crianças em risco no serviço, pode revelar o The Mail on Sunday.
Um relatório de dezembro de 2022 – enterrado em documentos judiciais fornecidos como parte do depoimento de Sir Nick Clegg no processo movido por 29 estados dos EUA contra Meta – continha “conclusões de alto risco” sobre a proteção infantil.
Revelou que, num dia de amostra, cerca de 1,4 milhões de contas que o próprio Instagram identificou como potenciais riscos para a segurança infantil foram recomendadas para adolescentes.
Em outro, 924 mil potenciais “violadores” são mostrados com pelo menos uma conta de adolescente não conectada.
Estas eram contas de adultos não verificadas que receberam pelo menos uma violação de exploração sexual infantil nos 90 dias anteriores ou foram sinalizadas pelo sistema automatizado da Meta como um risco de interações inadequadas com crianças.
Sir Nick, que era presidente de assuntos globais da Mater na época, disse que encaminhou a auditoria de segurança juvenil do Instagram para a equipe jurídica da Mater, mas não sabia que medidas foram tomadas.
