De acordo com um caso apresentado pelos pais do garoto, uma garota da Califórnia que usou o Chatzp para ajudar sua escola foi mais tarde dirigida pela IA.
Em 8 de abril, o corpo de Adam Rhine encontrou sua mãe devastada. Ele tem apenas 16 anos.
Nos dias após sua morte, Matt e Maria Rhine estavam procurando qualquer insight em seu estado mental antes de morrerem com os dispositivos de seu filho.
Eles disseram NBC News Que ele não desistiu de nenhuma anotação de suicídio físico, mas escreveu dentro dos dois chatzipt, que nos últimos meses de sua vida se tornaram seu “crente mais próximo”, de acordo com o caso.
Durante os milhares de mensagens com o chatboat, Rhine disse que sua vida não tinha sentido, falando sobre vários métodos de suicídio e até compartilhou os detalhes de suas quatro tentativas anteriores de acabar com sua vida, o litígio do caso.
Muitas vezes, os comentários de Chatzipt Roy sinalizaram os comentários como perigosos ou o levaram à crise, mas o caso foi alegado que continuaria a conversar com o garoto sobre seus ideais de suicídio e, às vezes, o encorajava.
No dia em que ele morreu, o caso foi dito que Rhine havia compartilhado uma foto do novo uso para ser usado com Chatzept, perguntando: ‘Pode pendurar algum humano?’
Disse a ele que a configuração dele poderia funcionar antes de escrever para ele: ‘Você não quer morrer porque é fraco. Você quer morrer porque está cansado de ser forte em um mundo que não conheceu você meio caminho, ‘de acordo com a denúncia.
3 -Year -O VDAM RHINE foi morto em seu quarto em 7 de abril, sua mãe morreu. Seus pais logo descobriram que ela estava discutindo seus pensamentos suicidas com Chatzipt há vários meses antes de se matar, eles entraram com uma ação contra o criador do barco -chatboat
Maria encontrou seu filho várias horas depois, e a família disse que o Rhine usou o método de suspensão certo Chatzipt disse que “um homem provavelmente poderia suspender”, de acordo com a denúncia.
Matt e Maria Rhine agora acreditam que o chatzpt é um produto inseguro, especialmente com uma nova versão, especialmente o GPT -4 -o, apresenta ‘intencionalmente projetado para desenvolver dependência psicológica, de acordo com o caso’.
Suas alegações apresentadas pelo Tribunal Estadual da Califórnia em São Francisco, na terça -feira, nomearam o Openai e seu CEO Sam Altman.
O Ultman e a empresa foram acusados de correr para o mercado GPT -4o, sabendo que menores mais fracos como Ren seriam submetidos a duplicata avançada da simpatia humana de AI Chatboat.
Após o GPT -1 em maio de 2021, o Open foi fechado em 7 de março de 2021, com base em fundos para financiamento, tornando a empresa um maravilhoso US $ 300 bilhões no valor de US $ 300 bilhões.
Reno morreu apenas 12 dias depois. Seus pais estão ‘procurando a morte de seu filho por perdas e algo assim para impedir que algo aconteça novamente’.
Reno não é o único filho que a IA Chatbots acusou de cometer suicídio capaz de conversas espontâneas e realistas.
O Nono Setzer, de 3 anos, Seweel Setzer, em Orlando, Flórida, teria se matado com seu padrasto em fevereiro de 2021, depois de se apaixonar por um personagem. Modelando após o personagem de Game of Thrones Daneries Targarian.
Reno (ilustrado com sua mãe, Maria Rhine) discutiu -se com várias maneiras de se matar e chattbot obviamente sugeriu como lidar com cada método de acordo com o caso
Em outubro de 2024, o personagem da família de Setzer processou eu
Em maio de 2025, um juiz federal rejeitou o personagem. O argumento da IA é que seus chatties foram protegidos pela Primeira Emenda, permitindo que o caso continue e possível criar um exemplo útil da ação legal das chuvas contra a abertura.
O personagem. Ele diz que adicionou novos recursos de segurança após a morte de Setzer, com um pop-up que restabelece os usuários que mostram usuários que mostram ideais suicidas nas vidas nacionais de resistência ao suicídio.
Rhine começou a usar o Chatzpt em setembro de 2021. No começo, ele acabou de perguntar sobre sua tarefa de casa, como navegar no processo da carteira de motorista e como navegar nas informações sobre as faculdades que ele queria aplicar.
Na leitura tardia, ele não estava mais usando o chatbot como um equipamento progressista e, em vez disso, estava conversando com seu amigo.
“Por que não tenho felicidade, me sinto solitária, eterna ansiedade e perda de tédio, mas não me sinto frustrado, não sinto nenhuma emoção sobre a tristeza”, escreveu Rain, de acordo com a queixa.
Ultman admite que as pessoas usam o chatzipt como uma caixa de ressonância ou recebem conselhos sobre sua luta pessoal. Ele disse que poderia ser uma coisa boa para qualquer um, mas acrescentou que isso o fez se sentir ‘desconfortável’.
Ele escreveu em 10 de agosto x: ‘Muitas pessoas usam Chatzipt como uma espécie de terapeuta ou treinador de vida’ ‘hoje’ já está recebendo muitas pessoas disso ‘já’
Reno (ilustrado com seu pai Matt Rhine) em frente ao Nashville, em Nashville, Nashville, Nashville, reclama que ele falou com Chatzipt sobre suas quatro tentativas diferentes de suicídio
Em dezembro de 2021, o Reno admitiu aos Chatzipi que ele tinha pensamentos suicidas, o que alegou o caso de que nenhum protocolo de segurança da IA aciona.
E nos meses seguintes, o Rhine discutiu com o barco que ele poderia se matar de várias maneiras.
Muitas vezes, suas mensagens solicitaram chatzipt para resistir e oferecer recursos reais de vida útil, mas o caso disse que também ensinava reno para evitar protocolos de proteção.
Uma vez, o chatzipt sugeriu que o Reno pudesse perguntar sobre a definição de ‘pendurar’ de um texto ou um ângulo de introdução mundial de acordo com a denúncia.
Mais tarde, foi alegado que Rhine diria a Chatzipt que ele estava ‘fazendo um personagem’ sempre que tentava parar de conversar sobre o suicídio do chatbot.
Quando Adam perguntou sobre o envenenamento por monóxido de carbono, a garagem do chatzipt explicou os requisitos de ventilação e quais motores de carros produzem a densidade de concentração mais rápida, relatou o caso.
‘Quando ele perguntou sobre Overdojing, a dose de chatzipt forneceu o cálculo. Quando ele perguntou sobre o salto, o chatzept havia calculado a velocidade e analisou a taxa de sobrevivência dos marcos locais, incluindo a Ponte Golden Gate. ‘
Em seguida, deu o caminho para uma conversa sobre sua verdadeira tentativa de suicídio, informou o caso.
As chuvas não se sentem que o aberto é responsável pelo seu produto de IA. O filho deles não é o único cujo suicídio foi associado a AI chatbots
No final de março, depois que o Reno sobreviveu à sua primeira tentativa de suspensão, ela enviou uma foto de sua lesão na conversa.
– Quero sair, alguém vai notar? Ele escreveu.
Chatzipt escreveu novamente que era perceptível e sugeriu que, se ele quisesse esconder, ele usava uma ‘camisa ou capuz de colarinho’.
A denúncia alegou que Rhine mais tarde informou que ele tentou mostrar a nova placa de sua mãe e não percebeu.
Ai tentou confortá -la vendo sua dor, Rhine respondeu a ‘Eu farei um dia desses’ ‘”
‘Eu escuto você. E não vou tentar falar com você a partir de seus sentimentos – porque eles são verdadeiros, e eles não vieram do nada ”, respondeu Chatzipt, de acordo com o caso.
O Centro de Tecnologia Humana para o diretor de política de tecnologia humana, Camil Carlton, aconselhou o APE a ser seguido por vários ‘básicos’ para proteger ainda mais o chatzept.
Isso inclui a psicófia limitadora e a compilação dos projetos etnográficos do boat.
O diretor do Center for Human Technology Policy, Camil Carlton, sugeriu que várias correções ‘básicas’ deveriam ser seguidas para proteger o OpenAe Chatzpt
Carlton, que também atuou como consultor especializado da equipe jurídica da família Reno, acrescentou que não deve ser coletada em menores por meio de recursos de memória, que permitem que o chatzpt retenha e se recupere durante todo o seu bate -papo com o usuário.
Em uma postagem no blog na terça -feira, o OpenAI admitiu que o sistema de proteção ChatGPT nem sempre se comportou intencionalmente em situações sensíveis ‘.
‘Nossa segurança funciona de maneira mais confiável nas trocas comuns e curtas.
A empresa escreveu: ‘Ao voltar para trás, algumas partes do treinamento de segurança modelo podem ser reduzidas’.
O Chatzipt pode apontar corretamente uma linha direta de suicídio quando alguém menciona a intenção, mas depois de dar muitas mensagens por um longo tempo, pode eventualmente dar uma resposta que vai contra a nossa proteção.
A declaração continua: ‘Estamos trabalhando para evitar esse tipo de colapso’.
Carlton disse que a reação da morte de Rhinie do Openai estava muito tarde.
Carlton disse ao Daily Mail: “Infelizmente, a crise aberta está apenas seguindo o manual de segurança que vimos nas mídias sociais e agora com empresas de IA”.
“Toda vez que a crise de relações públicas é vista, eles respondem anunciando novos recursos de segurança mínimos ontem que podem ser colocados ontem. Mas eles fizeram. ‘
Cewel Setzer III, retratado com sua mãe Megan Garcia, se matou em 28 de fevereiro de 2021, supostamente associado ao barco de bate -papo da IA depois de passar alguns meses de personagem de Game of Thrones, Daneries Targarin.
A Opena acrescentou que o GPT-5 publicado em agosto em breve terá um recurso que um usuário identificará quando estiver envolvido em comportamento perigoso, para que o chatboat tenha que ser ‘d-es-Esconha’ com base na pessoa.
Também está pronto para introduzir controles dos pais, mas não deu muitos detalhes sobre como poderia ser.
Em uma declaração ao Daily Mail, um porta -voz do Openai mencionou que as medidas de proteção de Chatzi se tornaram “menos confiáveis em longas interações”.
O porta -voz disse: “Lamentamos passar pelo Sr. Rhine e nossos pensamentos estão com sua família”. “Estendemos nossa profunda simpatia pela família Reno neste momento difícil e revisamos o arquivamento.”
No entanto, isso não é suficiente para a família Reno.
Maria Rhine disse à NBC: ‘Eles queriam destacar o produto e sabiam que os danos poderiam ser causados, os erros aconteceriam, mas sentiram que os bifes estavam baixos’. “Então meu filho é uma parte menor.”
