Uma mulher do Wyoming ficou perturbada e horrorizada quando descobriu que seu padrasto havia criado milhares de imagens pornográficas dela quando criança, geradas por IA, que ele compartilhou online.
A mulher não identificada, referida nos documentos judiciais apenas como Jane Doe 4, junta-se a uma ação federal originalmente movida contra a xAI por três adolescentes do Tennessee, dois dos quais ainda menores, alegando que Grock usou fotos tiradas deles quando crianças para sexo.
Os demandantes buscam indenização nos termos da Lei MASHA, uma lei federal que permite que vítimas de pornografia infantil processem. Eles também estão fazendo reclamações de responsabilidade do produto contra a xAI por negligência e design defeituoso.
De acordo com uma proposta de ação coletiva vista pelo Daily Mail, o padrasto da mulher postou uma foto dela quando ela tinha cerca de 11 anos, deitada no sofá com uma camiseta grande.
Ela então criou mais de 7.000 fotos falsas de si mesma, nua e em posições comprometedoras, usando Grok – um chatbot de IA generativo desenvolvido pela empresa de IA de Elon Musk, xAI.
O padrasto supostamente postou as fotos espontâneas online.
Uma dessas fotos também tinha a legenda: “O padrasto a estupra”, afirma o processo.
‘Com base em informações e crenças, a razão pela qual o padrasto de Jane Doe 4 usou Grok para criar imagens sexualmente explícitas de Jane Doe 4 foi porque o programa era menos restritivo do que outros modelos de IA e respondia a solicitações para criar material sexualmente explícito usando uma imagem representando um menor pré-púbere.’
Uma mulher do Wyoming afirma que seu padrasto usou Grok, o chatbot criado por Elon Musk (foto), para criar fotos dela nua aos 11 anos de idade em posições sexualmente comprometedoras.
Ele entrou em uma ação federal originalmente movida contra xAI por três adolescentes do Tennessee que alegaram que Grock usou fotos tiradas deles quando crianças para sexualizá-los.
Depois, quando a empresa finalmente contactou o Centro Nacional para Crianças Desaparecidas e Exploradas, que gere um sistema automatizado para denunciar e remover conteúdos de abuso sexual infantil, não incluiu informações críticas dos seus registos – incluindo endereços IP associados à conta do seu padrasto – tornando mais difícil determinar quem criou as fotos, de acordo com o processo.
Ele também afirma que a xAI não respondeu aos vários pedidos de mais informações de um investigador.
Mas as autoridades conseguiram rastrear as imagens até o padrasto da mulher e invadiram a casa dele e da mãe dela no início deste ano.
Quando os policiais descobriram as imagens indecentes, o padrasto foi levado sob custódia – mas foi libertado sem nunca ter enfrentado acusações de pornografia infantil porque a denúncia da xAI à organização sem fins lucrativos não revelou nenhuma imagem falsa óbvia, disse a mulher. disse ao Washington Post, Trechos de sua conversa com um investigador do caso.
O investigador também disse a ele que o relatório inicial da xAI foi para uma força-tarefa contra crimes na Internet em um estado diferente, causando mais atrasos.
Enquanto a mulher lutava para entender o que aconteceu dois dias após a operação, seu padrasto foi encontrado morto por suicídio em seu carro, disse Jane Doe 4.
O carro estava estacionado em sua cidade natal, onde ele e seu companheiro compraram recentemente uma casa, observou.
“Minha vida era completamente normal”, afirma a mulher. ‘Mesmo 48 horas após o início do ataque, foi literalmente um pesadelo.’
O processo alega que a xAI não respondeu aos vários pedidos de um investigador para obter mais informações sobre as fotos falsas, dificultando a investigação.
Desde então, a mulher iniciou a terapia para o trauma e teve que voltar a trabalhar como enfermeira para sustentar a mãe viúva.
“Da noite para o dia, toda a realidade de Jane Doe 4 foi destruída pelas tragédias gêmeas de exploração sexual infantil e suicídio”, diz o processo. ‘Sua família foi destruída e sua vida se tornou um pesadelo.’
Também observou que ela agora ‘luta contra sentimentos de auto-aversão e repulsa quando pensa que outras pessoas veem suas fotos () e sente como se sua infância tivesse sido roubada dela’.
“Eu vivo isso todos os dias”, disse a mulher ao The Washington Post.
“Eu estaria mentindo se dissesse que não sou um suicida em massa”, acrescentou ele, com a voz embargada.
Junto com a xAI, a mulher e outros quatro demandantes estão processando a Stability AI, que cria um gerador de imagens de IA personalizável de código aberto chamado Stable Diffusion.
Pesquisadores do Centro Helmholtz de Segurança da Informação da CISPA, na Alemanha, estimaram recentemente que o software está por trás de mais de 40% das imagens íntimas questionáveis geradas por IA.
Numa declaração ao Daily Mail, um porta-voz da Stability AI disse que está “comprometido em prevenir o uso indevido da tecnologia de IA, particularmente na criação e disseminação de conteúdo prejudicial, incluindo (material de abuso sexual infantil), que é especificamente proibido na nossa Política de Uso Aceitável”.
“Qualquer sugestão de que a segurança não seja uma prioridade para nós é manifestamente incorreta”, sublinhou o porta-voz.
‘Levamos nossas responsabilidades éticas a sério e, desde que assumimos o desenvolvimento exclusivo da família de modelos Stable Diffusion no final de 2022 (desde Stable Diffusion 2), implementamos fortes salvaguardas para aumentar nossos padrões de segurança para proteger nossos produtos contra uso indevido.’
Musk postou em janeiro que ‘não tinha conhecimento de nenhuma imagem de nudez de menores gerada por Grok’ e que o chatbot ‘negaria criar qualquer coisa ilegal’
“Trabalhamos regularmente com agências de aplicação da lei dos EUA e internacionais, bem como organizações como Thorne e Tech Coalition, para fortalecer a nossa segurança”, acrescentou o porta-voz.
Mas o caso surge em meio a um maior escrutínio do xAI, que foi investigado por legisladores nos EUA e no Reino Unido depois de permitir que o chatbot publicasse imagens sexualizadas publicamente no site de mídia social de Musk em resposta a pedidos de usuários para remover as roupas do sujeito.
Durante um período de 11 dias, a conta Grok de X postou quase três milhões de imagens sexualmente explícitas – 23 mil das quais retratavam crianças, de acordo com a organização sem fins lucrativos Center for Countering Digital Hate.
Musk disse em um post no X na época que “não tinha conhecimento de nenhuma imagem de nudez de menores de idade que Grok tenha criado” e que o chatbot “negará a criação de qualquer coisa ilegal”.
No entanto, foi apenas algumas semanas depois que o padrasto de Jane Doe 4 enviou pela primeira vez as fotos de sua infância para Gro, que enviou de volta imagens falsas mostrando-a nua.
Desde então, o fundador da SpaceX restringiu a função de criação de imagens apenas a usuários pagantes e disse que Grok não pode mais editar fotos para revelar roupas de pessoas reais onde for ilegal fazê-lo.
Ao mesmo tempo, porém, Musk processou Minnesota por uma nova lei que proibiria a distribuição de fotos nuas não consensuais de pessoas reais criadas com IA.
A xAI não contesta a autoridade do estado para proteger as pessoas de fotos nuas feitas ou compartilhadas sem o seu consentimento, mas afirma no processo que a lei não exige prova de que a pessoa se opôs à foto ou que alguém a contestou. De acordo com o comentário da lei.
Assim, poderá aplicar-se quando adultos alteram as suas próprias fotografias, concordam em aparecer em imagens geradas ou criam material que permanece privado, argumenta a empresa.
Como os processos estão em andamento, Jane Doe 4 afirma que se sente mais preocupada em manter seu próprio filho seguro – pois ela alerta que imagens geradas por IA podem causar danos reais.
“O acesso ilimitado a estas ferramentas está a espalhar-se muito rapidamente”, observou ele. ‘Está transformando a vida cotidiana em abuso sexual infantil.’
O Daily Mail entrou em contato com xAI para comentar.
