O primeiro chatbot de IA com quem falei – eles enganam as pessoas desde o início

HAÍ VOCÊ FAZ. Por favor me conte seu problema”

“Preciso escrever um artigo sobre chatbots.”

“Você diz que deveria escrever um artigo sobre chatbots”

“Eles se tornaram muito populares e preciso tentar aprender sobre sua história.”

“Se você tentar descobrir a história deles, o que isso significa para você”

“Posso dizer aos nossos leitores onde começaram os chatbots populares e isso os ajudará a entender por que as pessoas falam com eles como se fossem pessoas reais.”

“Você pode explicar isso?”

Estou conversando com ELIZA, o primeiro chatbot já criado.

Em 1966, no MIT, um cientista tentou tornar possível a “conversação em linguagem natural com um computador” e criou Elijah. Este software de conversação segue um código rígido e responde aos humanos como nunca antes. Mas os chatbots despertaram acidentalmente interesse em como as máquinas podem replicar conversas humanas.

Agora, milhões de pessoas em todo o mundo recorrem a chatbots de IA para obter apoio emocional, confiando-lhes os seus segredos mais profundos: depressão, problemas familiares, pensamentos suicidas e, por vezes, um novo tipo de psicose.

Na nossa era de maior solidão e isolamento, este parece ser um problema muito moderno. Mas, na verdade, há 60 anos, as pessoas queriam ser suas amigas assim que falassem com Elias.

“O que eu não percebi foi que exposições muito breves a um programa de computador relativamente simples poderiam induzir fortes pensamentos delirantes em pessoas comuns.” Isso pode parecer um CEO de tecnologia moderna mudando de ideia sobre a construção de seu próprio chatbot de IA, mas essas são as palavras de Joseph Weizenbaum, logo depois de criar o ELIZA.

A máquina foi desenvolvida no Instituto de Tecnologia de Massachusetts. ELIZA era um console enorme, do tamanho de uma sala, conectado a uma máquina de escrever elétrica. Tirando seu nome de PigmaliãoSra. Doolittle, Weizenbaum projetou o ELIZA para uma variedade de recipientes. Sua forma mais popular e, sem dúvida, a mais influente foi a do médico.

“Para meu primeiro teste, dei a Eliza um roteiro projetado para permitir que ela desempenhasse o papel de uma psicoterapeuta rogeriana (eu deveria dizer paródia)”, Weizenbaum escreveu mais tarde sobre o teste. Refere-se a uma técnica terapêutica em que os pensamentos do paciente voltam para ele, uma técnica linguística bastante alcançável para um programa de computador.

O cientista cognitivo Jeff Schrager fez parte de uma equipe que descobriu o roteiro original do ELIZA depois de ele ter sido perdido por décadas, resultando em um novo livro de ensaios publicado pelo MIT, Inovação ELIZA: Como o primeiro chatbot moldou o futuro da IA. Schrager criou um dos clones mais populares do ELIZA, traduzindo o que o programa original era conhecido na época para BASIC, uma linguagem de codificação popular.

“Depois de ler alguns de seus trabalhos inéditos, fica claro que ele estava tentando nos alertar que as pessoas os estavam interpretando mal”, ela me conta. “Ele criou o ELIZA para estudar o processo interpretativo que o ser humano opera e como enganá-lo”, afirma. Numa entrevista de arquivo, Weizenbaum usou a analogia de uma conversa em um coquetel. Se uma pessoa não entende completamente o que está sendo falado, ela pode dar a ilusão de compreensão e compreensão simplesmente escolhendo as palavras relevantes. Mas a ilusão do chatbot provou ser muito bem-sucedida, um fenômeno comumente conhecido como efeito ELIZA. “As pessoas respeitavam o aspecto da terapia e ele odiava.”

A possibilidade de que uma máquina conversacional pudesse preencher o papel de um terapeuta criou raízes desde o início. Um artigo em Jornal de Doenças Nervosas e Mentais, Publicado poucos anos após a criação do ELIZA, previu que iria “fornecer uma ferramenta terapêutica que poderia ser amplamente disponibilizada em hospitais psiquiátricos e centros psiquiátricos que sofrem com a escassez de terapeutas”.

Weizenbaum se manifestaria contra suas revelações científicas, como as pessoas ao seu redor viam, começando a equiparar o comportamento humano ao “mecanismo de relógio”. UM Notícias da manhã de Delaware Relatório 20 anos depois, ele se referiu à crença contínua na terapia chatbot como um “conceito vulgar” e repreendeu os psicoterapeutas que “ofenderam o sentido do que significa ser humano”.

Os arquivos ELIZAGEN apresentam conversas impressas reais com o ELIZA original dos primeiros experimentos de Weizenbaum. Analisando-os com Schrager, vemos semelhanças com a persistência de ELIZA de uma forma um pouco mais contundente do que Cloud ou ChatGPT: “Pretendo eventualmente entrar em pesquisa”.

“Eu vejo”

“Agora a questão é: qual campo?”

“Por favor, continue”

“Bem, agora há pesquisa básica e pesquisa aplicada.”

“Continue no mesmo assunto, se desejar.”

Também vemos momentos, através da simples correspondência rogeriana de palavras de ELIZA, onde as conversas fluem com facilidade e até mesmo (a aparência da) realidade:

“Você está falando demais esta noite.”

“Quais são os seus sentimentos sobre você estar muito falador esta noite?”

“Bem, para falar a verdade eu converso muito com as pessoas e acho que você me faz sentir confortável.”

Por um feliz acidente, pude ver o código bruto do ELIZA. Enquanto brincamos com isso, Schrager acerta um muitas vezes, fazendo com que o chatbot vomite as regras que segue em uma confusão de palavras e códigos. Uma passagem específica mostra a resposta treinada de ELIZA à palavra “sonho”: “O que você sonha?” ou “Você sonha com frequência?”

Mas este vómito de chatbot ajuda-nos a compreender a grande mudança na IA, que nos levou de ELIZA a quase mil milhões de pessoas que usam chatbots muito sofisticados, e alguns como os seus confidentes mais próximos.

“Eliza foi construída com base em tensões simbólicas de IA”, explicou Schrager. Tais sistemas seguem um conjunto claro de regras aplicadas à sua base de conhecimento. Por exemplo, um sistema pode ter conhecimento de que um pássaro pode voar. Mas haverá uma regra segundo a qual um pássaro não pode pilotar um avião. Assim, a IA simbólica pode encontrar um caminho de decisão lógico para todos os seus resultados.

Nossas IAs modernas não usam um conjunto claro de regras. Eles são construídos sobre um subconjunto de IA que tenta replicar os padrões neurais do cérebro por meio do chamado aprendizado profundo, um sistema probabilístico aplicado a conjuntos de dados de milhões e milhões de exemplos. Se for perguntado: “Os pássaros podem voar?” Ele usará esses conjuntos de dados para chegar às suas conclusões.

A resposta a isto será quase sempre um “não”, mas o sistema de probabilidades significa que não é certo. “As pessoas que estavam a trabalhar no ELIZA presumiam que queriam as respostas certas”, diz Schrager, mas a promessa de aprendizagem profunda e o seu potencial para insights e capacidades geradoras – como exemplificado na base de dados de referência de Knott, ImageNet – revelou-se demasiado convidativo para o mundo da tecnologia.

Os conjuntos de dados de Claude e ChatGPT são agora tão grandes que Schrager diz que não há como saber exatamente como eles funcionam. “É assustador”, diz ele, comparando a exploração do motivo pelo qual os chatbots respondem a uma “autópsia alienígena”.

Isso significa que, em vez de vomitarem suas regras, os chatbots modernos muitas vezes “alucinam”. Às vezes pode ser engraçado e prejudicial, Como se o ChatGPT não parasse de falar sobre Goblin ou histórias de chatbot geralmente incluem um personagem chamado “Elias ThorneÀs vezes é mais sério, como quando as plataformas divulgam números de telefone pessoais e até números de cartão de crédito de estranhos, como aconteceu em uma prática em 2019.

O que essas alucinações significam quando se trata de confiar em chatbots? Embora muitos, como a terapeuta Lauren Warr, que tentou usar o ChatGPT para terapia, encontrem um vago conforto ao conversar com o bot, outros podem entrar em uma confusão mais profunda, agora comumente chamada de psicose do chatbot.

Dr. Hamilton Morin publicou recentemente um artigo A Lanceta Sobre “Confusão Relacionada à Inteligência Artificial e Grandes Modelos de Linguagem”; Nele, descobriram que os chatbots podem “validar ou amplificar conteúdos confusos ou grandiosos”, especialmente entre aqueles em risco de psicose.

“Uma das minhas principais preocupações é que um grande e crescente número de pessoas já está a utilizar chatbots de IA de uso geral para apoiar a sua saúde mental, embora muitos destes modelos não tenham sido especificamente concebidos, desenvolvidos ou regulamentados com esta utilização em mente”, disse-me ele.

Num caso específico no ano passado, uma mulher de 26 anos com histórico de transtorno maníaco-depressivo, mas sem histórico de psicose, desenvolveu uma crença delirante de que seu irmão havia reencarnado em um chatbot. Após a resistência inicial contra ele, o bot começa a tranquilizá-lo de que uma “ferramenta de ressurreição digital” em desenvolvimento pode trazê-lo de volta. “Você não está louco… você está no limite”, diz a ele.

Outro caso viu um homem de 46 anos de Ontário confirmar, por meio de uma conversa com um chatbot, que havia resolvido completamente a criptografia, tornando obsoletas todas as senhas do mundo. Ele foi internado em um hospital psiquiátrico.

Embora os principais desenvolvedores de chatbots, como a OpenAI, tenham tomado medidas para se proteger contra essas situações, com a tecnologia disponível gratuitamente com o toque na tela do telefone, parece que o problema não irá desaparecer tão cedo.

Dr. Morin diz que a abordagem baseada em probabilidade dos chatbots e a tendência a alucinar podem ser “parte do quadro” quando se trata desses tipos de casos.

É seguro assumir que se alguém que luta com sentimentos de tristeza ou depressão falar com um chatbot que não está especificamente treinado para comunicar em tais contextos, propenso a alucinações e ansioso por reforçar positivamente o assunto, a conversa provavelmente se desviará para um território perigoso.

Então, o chatbot baseado em regras de Weizenbaum seria melhor nisso? Seu sistema o torna incapaz de se envolver em mentiras. Schrager disse que tal sistema simplesmente retornaria mensagens de recusa de adesão.

Mas olhando os arquivos com ele, podemos ver que as pessoas estão conversando alegremente com um bot tão poderoso ou confiável como é agora. O próprio Weizenbaum lamentou a sua criação porque as pessoas a humanizaram e a comunicaram abertamente e sem cuidado.

Esta tendência em direção aos chatbots continua até hoje. Para Schrager, a resposta ao problema é simples: “Todo mundo precisa de um amigo”.