(Bloomberg/Amy Thomson e Lucy White) — O recurso de geração de imagens de Grok foi restrito para a maioria dos usuários da plataforma de mídia social XAI X de Elon Musk depois que a ferramenta de inteligência artificial atraiu críticas generalizadas por gerar imagens nuas de mulheres e crianças.
Na sexta-feira, Grok respondeu aos usuários do X que eles precisavam de uma assinatura paga para criar e editar fotos. Esses recursos foram lançados inicialmente no X gratuitamente com limite diário. O aplicativo independente Grok, que opera separadamente da rede social, ainda permite que os usuários criem fotos sem se inscrever.
Os recursos de geração de imagens do Grok ganharam notoriedade nas últimas semanas, depois que os usuários começaram a solicitar que ele editasse fotos de pessoas – a maioria mulheres – para mostrá-lo de biquíni. Mais usuários aproveitam o recurso para criar imagens sexuais de mulheres e crianças no X O equipamento foi usado para produzir milhares de imagens de pessoas nuas a cada hora, muitas sem o consentimento dos sujeitos
Um porta-voz da xAI não fez comentários imediatos. Musk disse em um post no X na semana passada que “qualquer pessoa que usar Grok para criar conteúdo ilegal sofrerá as mesmas consequências que enviar conteúdo ilegal”. Conteúdo que sexualiza e explora crianças é proibido no X de acordo com os termos de serviço atuais.
A ferramenta de IA confundiu a linha entre o risco e o ilegal, com críticas públicas depois que especialistas em segurança infantil alertaram que ela estava sendo usada para criar material de abuso sexual infantil. As principais plataformas de mídia social correm o risco de multas ou bloqueios se não conseguirem remover esse conteúdo de forma rápida e proativa.
O gabinete do primeiro-ministro do Reino Unido, Keir Starmer, disse que a proibição não foi suficientemente longe. A última medida “simplesmente transforma um recurso de IA que permite a transformação de imagens ilegais em um serviço premium: não é uma solução”, disse o porta-voz da Starmer, Gerant Ellis, a repórteres em uma coletiva de imprensa na sexta-feira. “É um insulto para as vítimas de abuso sexual e violência sexual. Tudo o que prova é que X pode agir rapidamente quando quer.”
A Internet Watch Foundation, organização nomeada pelo governo do Reino Unido para identificar conteúdo de abuso sexual infantil, disse ter encontrado imagens “incriminatórias” na dark web produzidas por Grok. Starmer disse que o regulador britânico Ofcom tem “total apoio do governo para tomar medidas”.
O braço executivo da União Europeia ordenou que X retenha documentos internos relacionados ao GROC até o final do ano, disse um porta-voz durante uma coletiva de imprensa na quinta-feira. A UE condenou algumas imagens explícitas de crianças na plataforma como ilegais.
X não divulga mais informações abrangentes sobre seus usuários mensais ativos e pagantes. Em março de 2024, afirmava ter 550 milhões de usuários mensais. Apenas uma fração desse número será paga.
(Atualização com comentários do Gabinete do Primeiro Ministro do Reino Unido.)
Mais histórias como esta estão disponíveis bloomberg. com
©2026 Bloomberg LP
