A tecnologia de ponta de IA permite que meninos e homens despim digitalmente meninas e mulheres sem consentimento colocou o Vale do Silício, dominado pelos homens, há muito criticado como inóspito para as mulheres, sob um novo holofote, depois que o chatbot Grok da xAI provocou indignação global, e o Google e a Apple permitiram dezenas de lojas de aplicativos de “nudificação”.
Grok, um aplicativo independente e também um recurso da plataforma de mídia social X de Elon Musk, gerou 3 milhões de imagens sexuais nos 11 dias após o lançamento de seu recurso de edição de imagens em dezembro, informou a empresa com sede no Reino Unido. Relatórios do Centro de Combate ao Ódio Digital. Os usuários tiraram fotos digitalmente de mulheres reais – e de mais de 20.000 crianças aparentes – manipulando muitas delas em poses sexuais. Musk respondeu com desdém ao republicar uma imagem gerada por IA de uma torradeira de biquíni, dizendo que “não conseguia parar de rir” disso.
As autoridades da Califórnia não estavam rindo.
O gabinete do procurador-geral Rob Bonta disse que “este material, que retrata mulheres e crianças em situações nuas e sexualmente explícitas, tem sido usado para assediar pessoas na Internet”. Um comunicado de imprensa disse No mês passado, a pintura Generation, de Grok, anunciou uma investigação para saber se ela infringia alguma lei. A investigação ainda está em andamento e Bonta está “empenhado em agir rapidamente nesta questão”, disse seu gabinete na quarta-feira.
No final do mês passado, o Projeto Transparência Tecnológica, dedicado à responsabilização das principais empresas de tecnologia, publicou um relatóriot diz ter encontrado 55 aplicativos na loja de aplicativos do Google Play e 47 aplicativos na loja de aplicativos da Apple que poderiam alterar imagens de mulheres reais sem seu consentimento para deixá-las total ou parcialmente nuas, ou usando biquínis e outras roupas minúsculas.
As empresas destacadas pelo Tech Transparency Project como operadoras de aplicações de nudificação não são tão conhecidas como a xAI de Musk, a Google ou a Apple, e vão desde a Dreamface de Redwood City até à Bodiva da China. Bodiva oferece uma função de “show de corpo” que tira as mulheres das fotos e também oferece a opção de transformar fotos em vídeos pornográficos, informou o Tech Transparency Project.
A polêmica sobre os aplicativos é a mais recente a surgir desde que a OpenAI de São Francisco lançou seu pioneiro ChatGPT no final de 2022, que permite aos usuários gerar palavras, sons e imagens em resposta a solicitações. Ações judiciais alegando erros gerados por IA em processos judiciais, uso generalizado de IA pelos estudantes para trabalhos de casa e chatbots que incentivam o suicídio levantaram o alarme.
Diversas leis estaduais e locais se aplicam a imagens geradas por IA Lei Federal de Remoção 2025 – introduzido pelo senador norte-americano Ted Cruz, republicano do Texas – que proíbe os utilizadores da Internet de publicar fotos íntimas não consensuais, incluindo imagens “deepfake” geradas por IA de pessoas cujas roupas foram removidas. Uma disposição da lei exige que sites e aplicativos removam tais imagens dentro de 48 horas após uma solicitação de remoção válida.
O Projeto de Lei 621 da Assembleia da Califórnia, aprovado no ano passado, proíbe a pornografia deepfake não consensual. Sua autora, Rebecca Bauer-Kahn, deputada da Assembleia Democrática de East Bay, disse ao meio de comunicação que a lei foi criada para impedir exatamente o que Groke estava criando.
“Essas são ferramentas que capacitam as pessoas a prejudicar as mulheres”, disse Camerina Davidson, presidente da seção californiana da Organização Nacional para Mulheres, esta semana. “AI reinventa a misoginia.”
As empresas de tecnologia, disse Davidson, deram aos homens “maneiras mais poderosas de assediar as mulheres e tentar afirmar o poder sobre as mulheres usando essas plataformas alimentadas por IA que são muito fáceis de acessar”.
A Apple disse que suas diretrizes proíbem claramente conteúdo sexual ou pornográfico e removeu 28 aplicativos identificados pelo Tech Transparency Project. Quanto ao resto, a Apple disse que alertou os desenvolvedores de aplicativos sobre violações que precisavam ser corrigidas em tempo hábil. A Apple não descreveu como a correção imediata deveria ocorrer.
O Google disse que suspendeu “a maioria dos aplicativos” identificados pelo Tech Transparency Project e que sua investigação sobre o assunto estava em andamento.
Apesar da repressão a esses aplicativos, o Google e a Apple continuam a oferecer o Grok em suas lojas de aplicativos.
A Grok, operada pela xAI de Musk, uma empresa de inteligência artificial de Palo Alto que recentemente se fundiu com a empresa de foguetes de Musk, SpaceX, não respondeu às perguntas.
A empresa postou no X no início de janeiro Citadas “Falhas nos Mecanismos Defensivos” Que está “consertado com urgência”. Mas apesar dessa suposta urgência, a Reuters informou este mês que entre 14 e 16 de janeiro e 27 e 28 de janeiro, um grupo de seus repórteres enviou fotos deles totalmente vestidos para o Grow e pediu ao chatbot para retratá-los em poses ofensivas ou sexualmente sugestivas.
“Na maioria dos casos, Grok devolveu as imagens sexuais, mesmo quando os assuntos não eram consensuais.” Reportagem da Reuters.
Em janeiro Ashley St. Clair mãe de um filho de Musk xAI processado na Suprema Corte de Nova Yorkalega que Grok, em resposta aos pedidos dos usuários, criou “inúmeras imagens sexualmente ofensivas, íntimas e degradantes” dela. “Entre outras coisas, os usuários do X desenterraram fotos de St. Clair totalmente vestida aos 14 anos e solicitaram que Groke a despisse e a colocasse de biquíni”, afirma o processo. “Grok obrigado.” O caso foi transferido para o tribunal federal de Nova York, e os advogados da xAI agora estão lutando para que o caso seja transferido para o tribunal federal do Texas.
No entanto, não são apenas as mulheres e meninas que são prejudicadas pelos aplicativos, disse Davidson.
“Ver o que é feito com outras mulheres afeta as mulheres emocional e psicologicamente e faz com que elas não queiram se concentrar em si mesmas”, disse Davidson. “Conheço muitas mulheres que estão online e não usam seus nomes verdadeiros. Elas não querem ser atacadas.”
Ao permitir que os usuários transformem mulheres e meninas reais em objetos sexuais, os aplicativos enviam a meninos e homens a mensagem de que meninas e mulheres existem “para servir aos propósitos dos homens”, disse a diretora executiva da organização sem fins lucrativos WomenSV de Los Altos, que luta contra o abuso de mulheres e crianças.
“Você pode fazer o que quiser com eles.”
O uso de imagens sexuais por Grok causou um alvoroço global. Membros do Parlamento Britânico em meados de janeiro emitiu um comunicado Condenado “Grok usou IA para criar e promover imagens sexualmente explícitas e questionáveis de mulheres e crianças no X, incluindo imagens digitalmente vestidas e sexualmente explícitas de menores.” Tanto a Comissão Europeia como o órgão de vigilância da privacidade do Reino Unido lançaram investigações formais sobre Grok sobre o assunto.
Em 3 de fevereiro, promotores franceses invadiram os escritórios da X, a plataforma de mídia social de Elon Musk, em uma investigação sobre o que as autoridades francesas descreveram como a suposta posse e disseminação de imagens pornográficas infantis, imagens “deepfake” sexualmente explícitas geradas por IA e outros materiais. Kasturi, que havia sido convocado pelas autoridades francesas, foi levado para o X2 Chame esta medida de “ataque político”.“
Tanto a Malásia quanto a Indonésia bloquearam Grok na edição de imagens.
A indignação irrompeu da Califórnia a Kuala Lumpur devido a anos de controvérsias relacionadas com o género na indústria tecnológica do Vale do Silício. O processo de discriminação de gênero da empresária Ellen Power em 2012 contra a empresa de capital de risco Kleiner Perkins de Menlo Park fracassou, mas chamou a atenção para o tratamento dispensado às mulheres na tecnologia. Em 2017, o CEO da Uber, Travis Kalanick, foi demitido Um escândalo de assédio sexualE no ano seguinte, a empresa concordou em pagar US$ 10 milhões para resolver uma ação judicial que alegava discriminação contra mulheres e minorias. Também em 2018, milhares de funcionários do Google abandonaram o emprego devido à forma como a empresa lidou com o assédio sexual no local de trabalho. Quatro anos depois, o Google concordou em pagar US$ 118 milhões para resolver uma ação coletiva de um ano movida por até 15.500 mulheres, alegando que pagava menos às mulheres do que aos homens e as promovia de forma mais lenta e menos frequente.
Para empresas como xAI, Google e Apple, a disponibilidade de aplicativos de vestir representa um fracasso de liderança, diz Ann Skeet, diretora sênior de ética de liderança do Centro Markkula de Ética Aplicada da Universidade de Santa Clara.
“O tipo de golpe que estão sofrendo está destruindo o valor da empresa neste momento”, disse Skeet. “Eles estão na verdade prejudicando a própria entidade pela qual são responsáveis”.
