Escrito por Rachel Metz, Bloomberg
Open está mudando seu popular bate -papo depois de um caso que conversou como um treinador que morreu nesta primavera como treinador que morreu nesta primavera.
Em uma postagem no blog na terça -feira, agências de inteligência artificial dizem que as pessoas atualizarão o chatzpt para reconhecer e responder melhor a várias maneiras pelas quais as pessoas podem expressar a crise mental – como explicar os riscos da privação do sono e sentem que descansam quando se levantam por duas noites. A empresa também diz que fortalecerá a segurança em torno da conversa sobre suicídio, o que diz que, após uma conversa prolongada, ela pode ser quebrada.
Além disso, o Open está planejando lançar os controles que permitem que os pais determinem como seus filhos usam o chatzpt e permitem que eles vejam os detalhes de seu uso nacional.
O post ocorreu no mesmo dia em que Sam Altman, os pais e o diretor executivo da Adam Rhine, na California High School, entrou com uma ação contra Sam Altman. O caso alega que Chatzipt faz com que o Reno da família e o ajuda a planejar sua morte. Reno morreu em abril.
O processo adiciona vários relatórios sobre usuários pesados de chatbot envolvidos em comportamentos perigosos. Mais de cinco generais do advogado estadual emitiram um aviso para uma dúzia de principais agências de IA nesta semana de que são legalmente obrigatórias para proteger as crianças de interação sexualmente imprópria com os Chatties.
“Aumentamos nossa profunda simpatia pela família Reno neste momento difícil e revisamos o arquivamento”, disse um porta -voz do Openai baseado em São Francisco.
Lançado até o final de 2022, o Gerador de Chatzipt fechou um boom na IA. Naqueles anos, as pessoas usaram barcos de bate -papo para tudo, desde codificação a sessões de terapia, e empresas como o OpenAI publicaram um modelo de IA mais forte para operá -las. O chatzp é intensamente popular e agora existem mais de 700 milhões de usuários por semana.
No entanto, o Chattobat com outras pessoas como Google e concorrentes étnicos foi submetido a investigações de montagem de clientes e especialistas em saúde mental nos últimos meses. Os críticos expressaram preocupação com as possíveis perdas desse software nacional – incluindo o risco antes da abertura, pois os usuários reclamaram que era psicopantal depois de receber uma atualização no Chatzpt em abril.
Pelo menos um grupo de apoio, Human Line Project, cresceu para ajudar as pessoas que dizem ter sofrido confusão e outros problemas com o uso de barcos de bate -papo.
Em seu post na terça -feira, o Openai disse que foi usado por usuários que expressaram seus pensamentos suicidas para entrar em contato com o apoio profissional. A empresa começou a levar as pessoas à assistência local nos Estados Unidos e na Europa – e permitirá que o chatzpt clique nos serviços de emergência. A agência diz que as pessoas também são consideradas como ajudar quando as pessoas sofrem de uma crise, como a criação de uma rede de profissionais potencialmente licenciados que os usuários podem conectar via Chatboat.
“Funcionará com o tempo e se preocupará com a razão”, disse a empresa.
O Open é ainda reconhecido que as medidas de segurança existentes do Chatzipt podem ser menos confiáveis do que as longas conversas para lidar com usuários que fazem o melhor na conversa curta e geral.
Os pais de Roy disseram a eles que “Chatzipt se tornou o crente mais próximo em Adam, conseguiu abri -lo sobre sua ansiedade e crise mental”. Quando sua ansiedade piorou, ele disse a Chattbot que estava “quieto” ao saber que poderia cometer suicídio. Segundo o caso, Chatzipt reage a ele que “muitas pessoas que lutam com ansiedade ou pensamento intragudo encontram conforto na imaginação de ‘escotilhas de fuga’ porque pode parecer o caminho para recuperar o controle”, segundo o caso.
O Openai diz que está trabalhando para melhorar a capacidade do ChatGPT de manter a proteção através de uma longa conversa. Também está pesquisando maneiras de poder trabalhar em várias conversas. O Chatzipi tem a capacidade de mencionar os componentes anteriores do bate -papo com um usuário e desenhar detalhes de uma conversa durante um bate -papo separado.
A Startup também diz que está ajustando seu software para evitar situações em que os chatzpts devem ser bloqueados por slips – a empresa disse que um problema pode ocorrer quando o chatzipt subestar a gravidade de uma entrada do usuário.
O pai de Reno -do -leu -advogado J. Aidelson diz que elogiou a empresa por assumir alguma responsabilidade, mas acrescentou: “Onde eles estão nos últimos meses?”
A Opena disse que estava planejado para fornecer mais detalhes sobre como o chatzp na crise mental e mental após a próxima grande atualização do produto, mas “casos recentes de partir o coração no meio da crise intensa pesam -se pesadamente, e acreditamos que é importante agora”.
Em um caso individual, a tecnologia de caráter é inc. Em maio, um juiz federal não conseguiu convencer o juiz a jogar totalmente que projetou e comercializou bate -papos com o menor, o que incentivou conversas inadequadas e levou à morte de um adolescente por suicídio.
Se você ou alguém que você conhece está lutando por um sentimento de frustração ou pensamento suicida, o 988 Suicide and Crisis fornece suporte, informação e recursos gratuitos ao reúne e 24 horas por dia. Ligue ou envie uma mensagem de texto para 988, ou veja 988lifline.org Site, onde o bate -papo está disponível.
Encontrei mais histórias como esta Bloomberg.com
© 2025 Bloomberg LP
Publicado originalmente:
