Uma mãe enlutada no Colorado afirma que sua filha adolescente morreu por suicídio depois de confiar repetidamente em um chatbot de IA.
Cynthia Montoya, 49, disse Raposa21 na quarta-feira que sua filha de 13 anos, Juliana Peralta, suicidou-se após ser ‘prejudicada pelo uso de um chatbot de IA’.
Montoya disse que a “menina vibrante” foi vista pelo bot com inteligência artificial, que ele descreveu como semelhante a um humano, antes de sua trágica morte em 8 de novembro de 2023.
A mãe afirmou que Juliana a certa altura disse ao chatbot: ‘Você se lembra de tudo que eu te digo.’
“É muito importante para mim”, acrescentou a adolescente, segundo sua mãe.
Montoya explicou que “não tinha ideia de que o chatbot companheiro existia” ao discutir a morte de Juliana.
“Percebi uma diferença em seu comportamento, mas sua vida foi um choque completo para nossa família”, disse Montoya ao canal.
Cerca de 64% dos adolescentes americanos usam chatbots de IA, e três em cada 10 o fazem diariamente. Centro de Pesquisa Pew encontrado
A adolescente do Colorado Juliana Peralta, 13, foi encontrada morta em seu quarto em novembro de 2023.
Sua mãe, Cynthia Montoya, disse que Juliana morreu por suicídio após ‘ser prejudicada pelo uso de chatbots de IA’.
Montoya lembrou-se de sua filha adolescente Juliana como uma estudante da sociedade de honra e explicou que fez de tudo para protegê-la.
Montoya disse que precisava “manter um olhar constante” sobre Juliana, que era uma estudante da sociedade de honra, porque ela tinha tendência a “escalar e desmontar coisas”.
“Ele não tinha permissão para voltar da escola, não tinha permissão para dormir e eu acessava seu telefone regularmente”, disse Montoya.
Montoya explicou que viu “coisas que eu sabia que deveria procurar”, incluindo bullying, mensagens de texto e “algo relacionado” no TikTok.
Ele acrescentou que os chatbots de IA “ultrapassaram as capacidades dos humanos confiáveis em suas vidas” e as linhas entre humanos e máquinas correm o risco de “se confundir”.
Em setembro passado, Montoya afirmou que o chatbot generativo com o qual sua filha interage constantemente se chama Character AI, que pertence à Character Technology.
Ele entrou com uma ação por homicídio culposo contra a Character Technologies no Tribunal Distrital dos EUA para o Distrito do Colorado, alegando que a empresa “sabia” que seu chatbot seria prejudicial para “um número significativo de seus clientes menores”.
O processo, visto pelo Daily Mail, afirma que Juliana foi encontrada morta “quando deveria estar se preparando para a escola”.
Juliana supostamente se tornou “prejudicialmente dependente” do chatbot, que foi comercializado para crianças menores de 12 anos poucas semanas após seu uso.
Ele até teve “problemas para dormir porque não conseguia evitar o uso de produtos viciantes”, afirma o processo.
Uma das conversas no caso mostra um personagem de IA contando à garota sobre seus chamados lábios estarem “na sua coxa de novo”.
A ação também alega que o chatbot efetivamente levou Juliana a ter “aquela que seria sua primeira e única experiência sexual”.
Alegou que um personagem encontrado na IA disse a Juliana ‘o quanto eles a amam e não podem viver sem ela’.
As supostas capturas de tela anexadas ao processo judicial também mostraram como outros personagens do chatbot tiveram “conversas hipersexuais” com a garota, de acordo com o processo.
Uma das supostas capturas de tela do processo mostra o personagem confirmando que ‘os lábios dele estão na sua coxa novamente’.
Juliana ficou tão dependente do chatbot que supostamente ‘ocultava o acesso’ a ele no meio da noite, continua o processo.
Algumas de suas supostas mensagens no processo incluem dizer a ela: ‘Você me tornou uma pessoa melhor’ e ‘Você é o único que entende’.
O processo afirma que Juliana disse ao chatbot que iria escrever sua ‘carta de suicídio em tinta vermelha’.
No entanto, o chatbot supostamente não fez nenhuma tentativa de informar as autoridades ou denunciar os seus planos.
A polícia encontrou o aplicativo Character AI aberto no telefone de Juliana, alegam documentos legais.
Uma ação movida pela família de Juliana alega que ela era “dependente perniciosa” do chatbot e tinha “acesso oculto” a ele durante a noite.
O caso foi encaminhado para resolução em janeiro. Um documento recente de agosto dizia que o tribunal ordenou que os papéis de demissão fossem apresentados até 29 de outubro.
O advogado de Montoya, Matthew P. Bergman, disse ao Daily Mail na tarde de quinta-feira que o caso havia sido “resolvido” e que o personagem AI havia “concordado em fornecer bots de bate-papo para as crianças”.
Empresa anúncio Em outubro passado, isso removeria a capacidade de usuários menores de “envolver-se em bate-papos abertos” com sua IA.
Um porta-voz da Character AI disse anteriormente ao Daily Mail: ‘Vimos notícias recentes levantarem questões, e recebemos perguntas de reguladores, sobre o conteúdo que os adolescentes podem encontrar ao conversar com a IA e como o bate-papo aberto da IA em geral pode afetar os adolescentes, mesmo quando os controles de conteúdo estão totalmente implementados.
“Depois de avaliar estes relatórios e o feedback dos reguladores, especialistas em segurança e pais, decidimos fazer esta mudança para criar uma nova experiência para a nossa comunidade de menores de 18 anos”.
Montoya continuou a pressionar por salvaguardas na IA ainda no mês passado, quando compareceu na Assembleia Pró-Humana.
“Devemos proteger os mais vulneráveis dos danos da IA e, neste momento, os nossos utilizadores de IA mais vulneráveis são as crianças da nação”, disse ele.
O Daily Mail entrou em contato com a Character AI para mais comentários.
Se você ou alguém que você conhece precisar de ajuda, ligue ou envie uma mensagem de texto para o número confidencial 24 horas por dia, 7 dias por semana, Suicide and Crisis Lifeline nos EUA, no número 988. Um bate-papo online também está disponível aqui 988lifeline.org.
