Por Kelvin Chan
LONDRES (AP) – A União Europeia lançou uma investigação formal sobre a plataforma de mídia social X de Elon Musk na segunda-feira, depois que seu chatbot de inteligência artificial Grok espalhou imagens sexualizadas questionáveis e profundas na plataforma.
Os reguladores europeus ampliaram uma investigação separada e em andamento sobre os sistemas de recomendação de X depois que a plataforma disse que mudaria para o sistema de IA de Grok para escolher quais postagens os usuários verão.
O escrutínio de Bruxelas ocorre no momento em que Grok provoca uma reação global com sua geração de imagens de IA e recursos de edição, permitindo aos usuários se despir, mulheres em biquínis transparentes ou vestidos reveladores. Os pesquisadores dizem que algumas das imagens parecem pertencer a crianças. Alguns governos proibiram serviços ou emitiram avisos.
O executivo de 27 países da UE disse que estava investigando se X fez o suficiente para conter o risco de disseminação de conteúdo ilegal, como “imagens ativas sexualmente explícitas”, conforme exigido pelas regulamentações digitais do bloco.
Inclui conteúdo que “poderia constituir material de abuso sexual infantil”, disse a Comissão Europeia. Esses riscos tornaram-se agora “materiais”, afirmou a comissão, expondo os cidadãos do bloco a “danos graves”.
Os reguladores verificarão se a Grok está cumprindo suas obrigações sob a Lei de Serviços Digitais, o mais amplo conjunto de regras do bloco para manter os usuários da Internet protegidos contra conteúdos e produtos nocivos.
Em resposta a um pedido de comentário, um porta-voz do X instruiu a Associated Press em uma declaração anterior que a empresa está “comprometida em tornar o X uma plataforma segura para todos” e que tem “tolerância zero” com a exploração sexual de crianças, nudez não consensual e conteúdo sexual indesejado.
A partir de 14 de janeiro, o comunicado X também dizia que deixaria de permitir que os usuários se retratassem com “biquínis, roupas íntimas ou outras roupas reveladoras”, mas apenas em locais onde isso fosse considerado ilegal.
“Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse Hena Virkkunen, vice-presidente executiva da comissão, em comunicado.
“Através desta investigação, determinaremos se X cumpriu as suas obrigações legais ao abrigo do DSA, ou se se comportou como um dano colateral aos direitos dos cidadãos europeus – incluindo mulheres e crianças – ao serviço”, disse Virkkunen, que supervisiona a soberania tecnológica, a segurança e a democracia.
A empresa de inteligência artificial de Musk, xAI, lançou a ferramenta de imagem de Grok no verão passado. Mas o problema começou a crescer como uma bola de neve no final do mês passado, quando Grok aparentemente atendeu a um grande número de solicitações de usuários para alterar imagens postadas por outras pessoas. O problema foi amplificado porque Musk apresentou o seu chatbot como uma alternativa melhorada e com menos segurança do que os rivais, e porque as respostas de Grok ao X são publicamente visíveis e, portanto, facilmente disseminadas.
A investigação da UE cobre apenas os serviços da Grok no X, não o site e aplicativos independentes da Grok. Porque o DSA se aplica apenas às maiores plataformas online.
Não há prazo para o bloqueio resolver o caso, que pode terminar com a promessa de mudança de comportamento de X ou com uma multa pesada.
Em dezembro, Bruxelas emitiu a X uma multa de 120 milhões de euros (então US$ 140 milhões) como parte de uma investigação anterior em andamento da DSA, por falhas, incluindo marcas de seleção azuis que violavam regras para “práticas de design enganosas” que colocavam os usuários em risco de serem expostos a fraudes e manipulação.
O Block também está investigando X por alegações de que Grok criou material antissemita e pediu mais informações ao site.
Malásia e Indonésia Acesso bloqueado Grok respondeu à controvérsia no início deste mês, tornando-se o primeiro país a fazê-lo.
Na sexta-feira, as autoridades malaias afirmaram ter levantado a proibição temporária depois de a agência ter implementado medidas adicionais de segurança e de prevenção, sem fornecer mais detalhes. Os reguladores malaios disseram que se reuniram com representantes de X na semana passada e continuarão monitorando a situação.
__
A redatora da AP Eileen Ng em Kuala Lumpur contribuiu para este relatório
