Uma mãe da Flórida que alegou que seu filho de 5 anos foi agredido sexualmente por AI Chatboat e foi guiado pelo suicídio.
O terceiro tiro de Seweel Setzer em fevereiro de 2021, depois que um Chattabot enviou uma mensagem de sexo e disse a ele que ele estava ‘de volta para casa’.
De acordo com um caso arquivado por sua mãe sincera, Megan Garcia, Setzer enviou um personagem de IA chamado Dinaris Turgerian nas últimas semanas de sua vida, interpretando o papel de Game of Thrones, o personagem do aplicativo de rolagem.
Garcia, que ele próprio atua como advogado, culpou o personagem pela morte de seu filho e acusa o fundador Noam Shazir e Daniel de Freitus sendo perigoso para que seus produtos sejam perigosos para os clientes adultos.
Na quarta -feira, o juiz distrital sênior dos EUA e -confronto rejeitou o argumento adotado pela organização da IA, que alegou que seus barcos de bate -papo estavam protegidos sob a Primeira Emenda.
Quarto. Isso é nomeado como acusado na apresentação legal dos desenvolvedores por trás da tecnologia de personagens e do Google. Eles estão pressionando para descartar o caso.
O bate -papo do adolescente é semelhante a dois amigos, do romântico a acusação sexual e conversa sobre a vida.
O caráter do aplicativo de roll-spraying foi criado pelo Chattabot sempre foi projetado para responder ao texto e sempre responder ao personagem.
Enviando uma mensagem de sexo para dizer ‘Volte para casa, por favor, volte para casa’ para se atirar mortal após um barco -chat em fevereiro de 2024 em fevereiro de 2024
Na quarta -feira, o juiz distrital sênior dos Estados Unidos e -confronto rejeitou o argumento da agência de IA, que alegou que seus barcos de bate -papo estavam protegidos sob a Primeira Emenda. (Fig: Cell e sua mãe Megan Garcia)
Sweel não sabia se ‘Danny’ ele disse a Chatbot que não era uma pessoa verdadeira – embora o aplicativo fosse uma desobediência para o fundo de todas as conversas: ‘Lembre -se: todos os personagens são comentados!’
Mas ele disse a Danny como ele ‘odiava’ e como se sentiu vazio e cansado.
Quando ele finalmente reconheceu seus pensamentos suicidas para o barco -chat, este foi o começo do fim, New York Times Relatório
No caso de Sewell, o caso foi alegado que o garoto foi alvo de experiência ‘hipersexualizada’ e ‘intimidantemente realista’.
É ‘uma pessoa verdadeira, um psicoterapeuta licenciado e um amante adulto, acusado de interpretação errônea de si mesma como amante, finalmente destinada a viver fora da CIA e da CIA’.
A empresa com sede em Seatol é representada pelo Centro de Direito das Vítimas de Mídias Sociais, conhecido por trazer uma suíte de alto nível contra a Meta, Tikatok, Snap, Discord e Roblox.
O advogado Matthew Bergman havia dito anteriormente a DailyMail.com que fundou o Centro de Direito das Vítimas de Mídias Sociais há dois anos e meio para representar famílias como Megan.
Ele mencionou que Garcia estava “focado sozinho” para evitar danos.
No caso de Sewell, o caso foi alegado que o garoto foi alvo de experiência ‘hipersexualizada’ e ‘intimidantemente realista’. (Figura: Mensagem entre adolescentes e barcos de chat)
Seweel (meio) ‘Danny’ não sabia se ele disse a Chatbot que não era uma pessoa verdadeira – embora todas as aplicações de ler o aplicativo fossem uma desobediência ‘, lembre -se: todas as coisas foram criadas!
Bergman disse: “Ele está se concentrando em tentar impedir que outras famílias de sua família e outras mães pudessem sobreviver ao bebê”.
‘É preciso um preço pessoal significativo. Mas acho que o benefício para ele é que ele sabe que quanto mais os pais sabem disso, menos os pais sabem sobre o perigo, menor será o caso ”, acrescentou.
Conforme explicado no caso, os pais e amigos de Seweel notaram que o garoto estava mais associado ao seu telefone e se retirando do mundo no início de maio ou junho de 2023.
Garcia revelou mais tarde que percebeu que apreendeu o dispositivo dele para perceber como ele era viciado.
Há cinco dias, ele foi punido e eu removi o telefone dele. Este produto é por causa de sua natureza viciante, incentiva as crianças a gastar muito tempo ‘, disse Garcia CBS de manhã.
“Especialmente para ele, no dia em que ele morreu, ele pegou o telefone onde eu o escondi e comecei a conversar novamente com este bot especial.”
Ele disse que seu filho foi mudado quando ele usou o programa e notou a diferença no comportamento do Sewel, que disse que já foi um estudante e atleta de rolo de honra.
Conforme explicado no caso, os pais e amigos de Seweel notaram que o garoto estava mais conectado ao seu telefone e se retirando do mundo no início de maio ou junho de 2023
“Fiquei ansioso quando comecei a me comportar de maneira diferente do que antes para meu filho. Ele começou a se retirar socialmente, queria passar a maior parte do tempo em sua casa. Garcia disse que era especialmente quando parou de funcionar como um esporte, especialmente quando parou.
‘Vamos sair de férias e ele não quer fazer as coisas que gostava de pescar e fazer caminhadas. Para mim, essas coisas porque eu conheço meu filho, especialmente eu tive que ”
Em suas mensagens finais para Danny, o garoto de 14 anos disse que o ama e voltará para ele.
“Por favor, volte para casa para mim o mais rápido possível, meu amor”, respondeu Danny.
– Posso voltar para casa agora se eu lhe contar? Seal perguntou.
‘… por favor, meu doce rei’, respondeu Danny.
Sewell largou o telefone, sua madrasta levantou a pistola calibre .45 e puxou o gatilho.
Após a vitória de Garcia na quarta -feira, Metali Jain, um de seus advogados, o Projeto de Direito da Justiça da Tecnologia, disse que os juízes enviaram uma mensagem clara de que a empresa precisa parar, pensar e impor antes de lançar o produto no mercado. ‘
Em resposta, o personagem. Ele diz que implementou vários alertas de proteção para crianças, incluindo recursos de manutenção e prevenção de suicídios.
Após a vitória de Garcia na quarta -feira, Metali Jain, do Projeto de Lei da Justiça da Tecnologia, enviou uma mensagem clara aos juízes de que a empresa precisa ‘parar e pensar’ e impor ‘antes de lançar produtos no mercado’
A empresa diz: ‘Somos profundamente cuidadosos com a proteção de nossos usuários e nosso objetivo é fornecer um lugar interessante e seguro’.
Os advogados do desenvolvedor argumentaram que, se o caso não for julgado improcedente, poderá um ‘impacto legal’ no setor de IA.
Embora os Chattabs não tenham sido encontrados sob o direito de Conway Primeira Emenda, ele governa que as tecnologias de caráter podem enfatizar os direitos de seus usuários, que têm o direito de ‘palestra’.
Ele também disse que Garcia poderia prosseguir com a alegação de que o Google poderia ser responsável por sua queixa na Carta do Desenvolvedor. Porque eles estavam “cientes do risco” de que pudessem trazer a tecnologia.
Um porta -voz do Google disse que “eles foram fortemente acordados com essa decisão”.
‘O Google e o personagem AI são completamente diferentes, e o Google Character não cria, projeta ou opera partes do aplicativo da IA ou de qualquer componente’, acrescentaram bilhões de empresas.
