Um parlamentar trabalhista abriu uma ação legal contra a empresa xAI de Elon Musk por danos depois que sua ferramenta de chatbot Grok foi usada para criar fotos falsas dela de biquíni.
Jess Assato, parlamentar de Lowestoft em Suffolk, disse anteriormente que o chatbot de IA do bilionário da tecnologia usado para criar imagens dele sem consentimento era “violador”.
Estas incluíam não apenas fotos da Sra. Assato de biquíni, mas também fotos perturbadoras dela sendo clorofórmica e preparada para ser abusada sexualmente.
E desde que iniciou sua ação legal, a Sra. Asato viu mais imagens geradas por IA que ela produziu.
Numa ação apresentada ao Tribunal Superior, Assato acusou a xAI – uma empresa de propriedade de Musk, que também possui X – de violar as leis de proteção de dados e de usar indevidamente informações pessoais, como usar fotos de pessoas sem o seu consentimento.
Em declarações à BBC Breakfast, a Sra. Assato disse: “É importante que utilizemos as leis disponíveis para responsabilizar estas empresas de tecnologia. Se alguém for prejudicado por um produto como o Grok, é necessário que haja alguma solução.”
O deputado acrescentou que quer ganhar o caso para mostrar que as empresas tecnológicas “não podem operar sem impunidade” e precisam de criar “salvaguardas” nos seus produtos para evitar que as pessoas utilizem imagens sem o seu consentimento.
Ele instou todas as vítimas cuja imagem foi manipulada por Groke a se manifestarem.
Jess Assato (foto), parlamentar de Lowestoft em Suffolk, disse anteriormente que o chatbot de IA do bilionário da tecnologia usado para tirar fotos dele sem consentimento era uma ‘infração’
Foto: Elon Musk é o dono da xAI. Numa ação apresentada no Tribunal Superior, a Sra. Asato acusou a empresa xAI de violar as leis de proteção de dados e de usar indevidamente informações pessoais, como usar fotos de pessoas sem o seu consentimento.
O processo de Assato ocorre depois que um processo semelhante foi aberto em Nova York por Ashley St. Clair, mãe de um filho de Musk, que alega que Groke também fez fotos explícitas dela, incluindo uma dela quando era menor.
Ravi Naik, o advogado que representa a Sra. Assato, disse Os tempos financeiros: ‘No fundo, este caso trata de um único princípio: que os desenvolvedores devem responder pelo design e implantação de suas ferramentas.
‘Nosso caso é… uma imagem sua desenhada para se parecer com você e (que) pretende denegri-lo ou representá-lo em diferentes situações, deve ser a sua imagem. xAI diz o contrário.’
Quando as imagens de IA foram produzidas, a Sra. Assato disse ao Breakfast que a experiência a deixou se sentindo “desumanizada” e “humilhada”.
Ela disse: ‘Como deputada, faço campanha contra a violência contra mulheres e meninas e quando soubemos que Groke estava sendo usado para criar esta imagem sexual horrível.
‘Eu falei contra isso e depois fui vítima também.
‘Não fui o mais afetado de forma alguma, mas isso me fez sentir desumanizado, me fez sentir humilhado, foi algo que me fez sentir como se meu consentimento tivesse sido retirado.
‘No meu caso (Musk) compartilhou novamente uma foto minha dizendo que não quero usar biquíni, queremos rir das pessoas que viram isso acontecer conosco.’
O caso de Assato surge depois de um processo semelhante ter sido aberto em Nova Iorque por Ashley St Clair (foto), que alega que Groke também fez imagens explícitas dela, incluindo uma em que ela era mais jovem.
Assato também revelou que mais imagens dela geradas por IA foram criadas desde que ela iniciou sua ação legal.
O governo do Reino Unido já ameaçou com ação legal contra X, antigo Twitter, depois que Grok foi usado para criar imagens sexualizadas de mulheres reais e, em alguns casos, de crianças. Enquanto isso, o Ofcom lançou uma investigação separada.
X inicialmente disse que mudaria suas regras para que apenas clientes pagantes pudessem criar tais imagens – uma medida que Sir Keir Starmer condenou veementemente como “terrível”.
Poucos dias depois, X deu meia-volta e anunciou que Grok pararia de editar fotos de pessoas reais para mostrá-las em suas roupas reveladoras.
O Daily Mail entrou em contato com xAI para comentar.
