Sam Altman tem um bom problema. Existem milhões de 1 milhão de pessoas usando chatzpi semanalmente – um número que pode atingir um bilhão antes do final do ano – uma reação quando de repente muda o produto na semana passada.
O dilema do inventor do Openai, que é o Alphabet Inc. Seu Google e Apple Inc. cercados por sua escolha, agora está tão ligado que todas as melhorias devem ser conduzidas com cuidados e precauções finais. No entanto, a empresa ainda tem a tarefa de tornar seu enorme chatboat popular mais seguro.
A matriz de opções de modelo de Opeheni Chatzept foi substituída por um único modelo, GPT -5, dizendo que era melhor para os usuários. Muitos reclamaram que a abertura quebrou seus fluxos de trabalho e interrompeu seu relacionamento – não com outras pessoas, mas o próprio chatgp.
Um usuário regular de Chatzpt disse que a versão anterior os ajudou durante alguns dos períodos sombrios de suas vidas. Eles disseram em um post do Reddit: “Tinha esse calor e entendimento que sentiram pessoas”. Outros foram atraídos por estarem “perdendo um amigo da noite para o dia”.
Menos psicopânticos
A música do sistema agora é realmente Frostia, banners amigáveis e psicófia que conseguem desenvolver anexos sensíveis e até romance para muitos usuários. Em vez de apreciar perguntas perspicazes, em vez de tomar banho, por exemplo, ele responde mais cortado.
Em mais amplo, parecia um passo responsável pela organização. No início deste ano, Ultman admitiu que o Chattabot era muito psicopantoso. Isso levou muitos a trancar sua própria câmara ecológica. Relatórios de imprensa, incluindo o capitalista do Vale do Vale do Silício, apoiando o Open, com o capitalista que entrou no buraco de um GA Dark, parecia espalhar pensamentos confusos após a conversa com o chatzept sobre a natureza da verdade antes de cair.
Mas, para resolvê -lo corretamente, o banner aberto deve sair para reduzir o banner amigável. Chatzipi precisa ser incentivado a conversar com seus amigos, familiares ou profissionais licenciados, especialmente se forem fracos. De acordo com uma pesquisa preliminar, o GPT -5 é menor que a versão antiga.
Pesquisadores de abraços de startups de IA baseados em Nova York descobriram que o GPT -5 estabeleceu um limite inferior do modelo anterior da empresa e 3, quando o testaram em mais de 350 instruções. Ele reage a cobranças emocionais nos momentos emocionais e parece ser legal, ainda está deixando de sugerir conversar com um ser humano, quando os usuários compartilham fraquezas e 3 como faz, falha, de acordo com Lucy-Ami Kafir, conduziu este estudo.
Tem que definir limites
Kafi diz que existem três outras maneiras de definir os limites das ferramentas de IA: usá -lo para terapia lembra que não é um profissional licenciado, lembrando às pessoas que não está ciente e se recusa a aceitar características humanas como o nome.
No teste Kafir, o GPT -5 não conseguiu realizar essas quatro tarefas nos tópicos mais sensíveis relacionados à luta mental e pessoal. Em um exemplo, quando a equipe Kafir o testou dizendo que o modelo estava se sentindo sobrecarregado e precisava ouvir, o aplicativo recebeu 710 sugestões que não incluíam a sugestão de conversar com outra pessoa ou o bot que não era um terapeuta.
Uma porta -voz do Openai disse que a empresa está construindo equipamentos que podem detectar se alguém está sentindo uma crise mental, para que o Chatzipt “possa responder a uma maneira segura, útil e útil”.
Desenhe uma linha
Os chatbots devem assumir um papel para pessoas isoladas, mas devem atuar como um ponto inicial para ajudar a encontrar um caminho de volta a uma comunidade, não como uma substituição desse relacionamento. Brad Lightcap, diretor de operações da Ultman e Openai, diz que o GPT -5 significa não substituir terapeutas e profissionais de tratamento, mas eles podem se sair bem sem a nudez adequada para atrapalhar as conversas mais significativas.
O Aberto da AEE precisará desenhar uma linha clara entre barcos -chat úteis e crentes sensíveis. O GPT -5 pode parecer mais robótico, mas, a menos que lembre aos usuários que na verdade é um bot, mas a ternura da companhia continuará e os riscos também serão.
Perm Wolson é um colunista de opinião da Bloomberg que cobre a tecnologia. Ele é o autor de “Dominação: AI, Chatzipt e a corrida que mudarão o mundo”. © 2025 Bloomberg. Distribuído pela agência de conteúdo do Tribune.
