Por Kelvin Chan
LONDRES (AP) – O chatbot de IA de Elon Musk, Grok, está enfrentando uma reação negativa de governos de todo o mundo após um recente aumento de imagens sexuais de mulheres e crianças criadas sem consentimento pela ferramenta alimentada por inteligência artificial.
Na terça-feira, o principal funcionário de tecnologia da Grã-Bretanha exigiu ação urgente na plataforma de mídia social X de Musk, enquanto um legislador polonês citou isso como uma razão para a legislação de segurança digital.
O poder executivo da União Europeia condenou Grok, enquanto autoridades e reguladores na França, Índia, Malásia e Brasil condenaram a plataforma e pediram uma investigação.
Alertas preocupantes de diferentes países apontam para o potencial de pesadelo de aplicativos de nudez que usam inteligência artificial para gerar imagens deepfake sexualmente sugestivas.
Aqui está uma visão mais detalhada:
Geração de imagem
O problema surgiu depois que o Grok Imagine, um gerador de imagens de IA que permite aos usuários criar vídeos e imagens digitando em prompts de texto, foi lançado no ano passado. Inclui o chamado “modo picante” que pode produzir conteúdo adulto
A bola de neve cresceu no final do mês passado, quando Grok, que está hospedado no X, aparentemente começou a atender um grande número de solicitações de usuários para alterar imagens postadas por outros. A partir de terça-feira, os usuários do Grok ainda poderiam criar fotos de mulheres usando pedidos como “Coloque-a em um biquíni transparente”.
O problema aumentou tanto porque Musk apresentou o seu chatbot como uma alternativa melhorada aos rivais com mais segurança, como porque as imagens de Grok são visíveis publicamente e, portanto, facilmente espalhadas.
O grupo sem fins lucrativos AI Forensic disse em um relatório que analisou 20.000 imagens criadas por Grok entre 25 de dezembro e 1º de janeiro e descobriu que 2% retratavam uma pessoa de 18 anos ou menos, incluindo 30 mulheres ou meninas jovens ou muito jovens, em biquínis ou roupas transparentes.
Reação de almíscar
A empresa de inteligência artificial de Musk, xAI, respondeu a um pedido de comentário com a resposta automática: “Mentiras da mídia legada”.
No entanto, X não negou a existência de conteúdo problemático gerado por Grok. No entanto, ainda é uma reivindicação publicar Na sua conta de Segurança, toma medidas contra conteúdos ilegais que contenham material de abuso sexual infantil, “removendo-os, suspendendo permanentemente contas e trabalhando com governos locais e agências de aplicação da lei quando necessário”.
A plataforma também repetiu um comentário de Musk, que disse: “Qualquer pessoa que usar Grok para criar conteúdo ilegal sofrerá as mesmas consequências que enviar conteúdo ilegal”.
Uma lista crescente de países exige que Musk faça mais para controlar conteúdos explícitos ou ofensivos.
Grã-Bretanha
X deve resolver o problema “urgentemente”, disse a secretária de Tecnologia, Liz Kendall, na terça-feira, ao apoiar um escrutínio extra do regulador de comunicações do Reino Unido, Ofcom.
Kendall disse que o conteúdo era “absolutamente terrível e inaceitável em uma sociedade decente”.
“Não podemos e não permitiremos a proliferação destas imagens degradantes e degradantes, que visam desproporcionalmente mulheres e meninas.”
A Ofcom disse na segunda-feira que fez “contato urgente” com X.
O cão de guarda disse: “Estamos cientes das sérias preocupações levantadas sobre um recurso do Grok no X que contém imagens de pessoas nuas e imagens sexualizadas de crianças”.
O cão de guarda disse que entrou em contato com X e XAI para entender quais medidas foram tomadas para cumprir as regulamentações britânicas.
De acordo com as leis de segurança online do Reino Unido, as plataformas de redes sociais devem prevenir e remover conteúdo de abuso sexual infantil quando tomarem conhecimento disso.
Polônia
Um legislador polonês usou Grok na terça-feira como a razão para uma lei nacional de segurança digital que aumentaria a proteção para menores e tornaria mais fácil para as autoridades removerem conteúdo.
Num vídeo online, o presidente do parlamento, Lodzmierz Czarjasty, disse que queria tornar-se alvo de Grok para destacar a questão, bem como apelar ao presidente da Polónia para apoiar a lei.
“Groc está despindo as pessoas ultimamente. Está despindo mulheres, homens e crianças. Nos sentimos mal por isso. Sinceramente, quase gostaria que esse Groc me despisse também”, disse ele.
União Europeia
O porta-voz da Comissão Europeia, Thomas Regnier, disse que o braço executivo do bloco estava “bem ciente” de que Grok estava “sendo usado para conteúdo sexual explícito, incluindo algumas publicações com imagens de crianças”.
“Não é picante. É ilegal. É terrível. É nojento. É assim que vemos, e não tem lugar na Europa. Não é a primeira vez que a GROC produz tal produção”, disse ele aos repórteres na segunda-feira.
Depois que Grok espalhou conteúdo de negação do Holocausto no ano passado, a comissão buscou mais informações na plataforma de mídia social X de Musk, de acordo com Regnier. A resposta de X está atualmente sendo analisada, disse ele.
França
A promotoria de Paris disse que estava expandindo a investigação em andamento sobre X para incluir deepfakes sexualizados após receber reclamações de legisladores.
De acordo com uma declaração do governo na semana passada, três ministros alertaram os promotores sobre “conteúdo claramente ilegal” gerado por Grok e postado no X.
O governo também sinalizou problemas com o regulador de comunicações do país sobre possíveis violações da lei de serviços digitais da UE.
“A Internet não é uma zona sem lei ou uma zona de impunidade: os crimes sexuais cometidos online constituem crimes por direito próprio e os cometidos offline estão totalmente sujeitos à lei”, afirmou o governo.
Índia
Governo da Índia na sexta-feira Emita um ultimato para X, alegando que removerá todo o “conteúdo ilegal” e tomará medidas contra usuários infratores. O Ministério de Eletrônica e Tecnologia da Informação do país ordenou que a empresa revisasse a “estrutura técnica e de governança” de Grok e apresentasse um relatório sobre as medidas tomadas.
O ministério acusou Grok de “uso indevido grosseiro” da IA e de grave falha em protegê-la e aplicá-la, permitindo e compartilhando a geração de “imagens ou vídeos indecentes de mulheres de maneira humilhante ou obscena para degradá-las sexualmente”.
O ministério alertou que o não cumprimento do prazo de 72 horas colocaria a empresa em grandes problemas jurídicos, mas o prazo expirou sem qualquer atualização pública da Índia.
Malásia
Vigilante das comunicações da Malásia Sábado disse Está investigando usuários X que violaram leis que proíbem a disseminação de “conteúdo grosseiramente ofensivo, indecente ou obsceno”.
A Comissão de Comunicações e Multimídia da Malásia disse que estava investigando o desastre online de X e convocaria um representante da empresa.
O órgão de fiscalização disse que tomou nota de reclamações públicas sobre as ferramentas de IA do X serem “usadas para manipular digitalmente imagens de mulheres e menores para criar conteúdo obsceno, grosseiramente ofensivo ou de outra forma prejudicial”.
Brasil
A legisladora Erica Hilton disse que denunciou Grok e X ao Ministério Público Federal do Brasil e ao órgão de fiscalização da proteção de dados do país.
Em uma postagem nas redes sociais, ele acusado Ambos fizeram e depois publicaram imagens sexualizadas de mulheres e crianças sem consentimento.
Ele disse que as funções de IA do X deveriam ser desativadas enquanto se aguarda uma investigação.
Hilton, um dos primeiros legisladores transgêneros do Brasil, explicou como os usuários podem alterar digitalmente qualquer foto publicada de Groc, incluindo “trocar roupas femininas e femininas por biquínis ou torná-las sugestivas e eróticas”.
“Os direitos de imagem de uma pessoa são privados; não podem ser transferidos através dos ‘termos de uso’ de uma rede social, e a distribuição em massa de pornografia infantil (starrisk)gr (starrisk)por uma inteligência artificial integrada numa rede social atravessa todas as fronteiras”, disse ele.
__
Os redatores da AP Claudia Ciobanu em Varsóvia, Lorne Cook em Bruxelas e John Leicester em Paris contribuíram para este relatório.
