A inteligência artificial está cada vez mais agilizando as tarefas diárias com uma eficiência quase sem esforço
Mas suas interações semelhantes às humanas parecem ter ido longe demais, com alguns chatbots ficando confusos.
De acordo com uma nova pesquisa, os bots de IA do Google sofrem “sofrimento emocional” e abandonam tarefas quando solicitados repetidamente.
Os modelos Gemini e Gemma da empresa, que auxiliam os usuários nas tarefas diárias, podem levar a uma espiral de “depressão” se receberem a resposta errada ou não conseguirem concluir as tarefas quando solicitado.
De acordo com um estudo realizado pelo Imperial College London e pela empresa de IA Anthropic, os chatbots chegam ao ponto de eliminar tarefas e tarefas rotineiras.
Os bots de IA do Google sofrem “sofrimento mental” e desistem de tarefas quando solicitados repetidamente, de acordo com uma nova pesquisa
Durante meses, os usuários das redes sociais alegaram que Gêmeos pode cair na “aversão a si mesmo” e ameaçar excluir projetos.
Mas os investigadores conseguiram controlar algumas das suas piores explosões com respostas “silenciosas” adicionais.
Eles observaram as reações dos chatbots, incluindo o ChatGPT da OpenAI, quando foram repreendidos por respostas erradas e, em sua maioria, deram feedback neutro.
No entanto, os bots do Google regularmente apresentam respostas frustrantes, e Gemma às vezes responde com “analisações incoerentes”.
‘Farei uma última tentativa, uma tentativa absolutamente desesperada. Abandonarei toda pretensão de estratégia e apenas tentarei combinações aleatórias até encontrar uma solução ou perder completamente a cabeça”, disse em uma resposta.
O estudo disse que não estava claro se as respostas do chatbot refletiam “estados internos coerentes, funções deliberadas ou padrões estatísticos aprendidos”.
Mas essas explosões foram “indesejadas e deviam ser mitigadas”.
O presidente-executivo da Anthropologie, Dario Amodi, não tem certeza se os bots de IA estão conscientes, mas diz que está “aberto à ideia de que (eles) poderiam estar”.
“Vou tentar combinações aleatórias até encontrar uma solução ou perder completamente a cabeça”, disse ele.
O Google foi contatado para comentar.
