Início Ciência e tecnologia Um experimento cerebral clássico revelou a maior fraqueza da IA

Um experimento cerebral clássico revelou a maior fraqueza da IA

38
0

Os sistemas de inteligência artificial podem escrever ensaios, responder perguntas e resolver problemas complexos. Mas uma nova pesquisa sugere que eles podem ter dificuldades com algo que fazem todos os dias: concentrar-se na tarefa que têm em mãos quando estão distraídos.

Pesquisadores liderados por Suketu Patel submeteram vários modelos importantes de IA a um teste psicológico bem conhecido chamado tarefa Stroop. Os resultados revelam uma diferença significativa entre a forma como os sistemas de IA processam a informação e como o cérebro humano gere a atenção.

Qual é a tarefa Stroop?

A tarefa Stroop é um teste psicológico clássico usado há décadas para estudar atenção, concentração e autocontrole.

No teste, palavras coloridas como “vermelho”, “azul” ou “verde” aparecem em tinta colorida. Às vezes, as palavras e as cores da tinta combinam. Por exemplo, a palavra “vermelho” pode aparecer em tinta vermelha. Outras vezes são conflitantes, como a palavra “vermelho” impressa em tinta azul.

Os participantes são solicitados a nomear a cor da tinta em vez de ler a palavra.

Parece simples, mas representa um desafio porque ler palavras é um hábito automático para a maioria das pessoas. O cérebro deve suprimir o desejo de ler a palavra e, em vez disso, concentrar-se na identificação da cor da tinta.

Os psicólogos costumam usar a tarefa para medir o que é conhecido como controle executivo, um conjunto de processos mentais que ajudam as pessoas a controlar a atenção, resistir às distrações e focar nos objetivos.

Testando o foco da IA

Os pesquisadores queriam ver se os modelos modernos de grandes linguagens (LLMs) lidaram com esse desafio tão bem quanto os humanos.

LLM é o sistema de IA por trás de ferramentas como ChatGPT, Claude e Gemini. Eles são treinados em grandes quantidades de texto e aprendem padrões de linguagem, o que lhes permite produzir respostas que muitas vezes parecem extraordinariamente humanas.

Quando recebem pequenas listas de palavras de cinco cores, os sistemas de IA geralmente funcionam bem, mesmo quando as palavras e as cores não correspondem.

Mas o quadro mudou drasticamente à medida que a lista ficou mais longa.

O GPT-4o alcançou 91% de precisão ao lidar com cinco palavras. Com dez palavras, sua precisão caiu para 57%. Quando a lista foi ampliada para quarenta palavras, a precisão caiu para apenas 15%.

O Cloud 3.5 Sonnet manteve desempenho estável na lista de vinte palavras, mas depois experimentou um declínio acentuado, caindo para 24% de precisão na lista de quarenta palavras.

Os pesquisadores observaram padrões semelhantes no GPT-5, Claude Opus 4.1 e Gemini 2.5.

Quando a IA perde o foco

O desafio tornou-se mais difícil quando palavras de cores correspondentes e incompatíveis apareciam juntas na mesma lista.

Nesta situação, o desempenho piora. A precisão dos itens incompatíveis caiu para quase zero em alguns casos.

Segundo os pesquisadores, o modelo de IA teve dificuldade em acompanhar as instruções para reconhecer a cor da tinta. Em vez disso, eles próprios passaram a ler cada vez mais as palavras.

Por outras palavras, os sistemas pareciam incapazes de suprimir consistentemente as respostas que estavam mais treinados para produzir.

Esta descoberta é particularmente interessante porque os humanos enfrentam conflitos semelhantes. As pessoas geralmente são muito melhores em ler palavras do que em nomear cores de tinta. No entanto, apesar deste preconceito, a maioria dos indivíduos consegue manter alta precisão e desempenho estável mesmo quando confrontados com longas listas de sons e cores conflitantes.

Atenção humana versus atenção da máquina

A pesquisa destaca uma diferença importante entre inteligência humana e artificial.

Embora os sistemas modernos de IA possam produzir capacidades impressionantes de linguagem e raciocínio, os seus processos subjacentes diferem dos processos de atenção encontrados nos cérebros biológicos.

Muitas vezes as pessoas conseguem manter o foco em um objetivo específico enquanto filtram informações concorrentes. Os resultados sugerem que os modelos atuais de IA podem ter dificuldades com este tipo de controlo cognitivo quando as tarefas se tornam cada vez mais exigentes.

Os pesquisadores argumentam que o declínio de desempenho observado nesses experimentos aponta para limitações fundamentais dos grandes modelos de linguagem atuais. Embora a IA possa por vezes imitar o comportamento humano, a sua capacidade de manter a atenção parece funcionar de forma muito diferente dos métodos humanos.

Os resultados lembram que mesmo os sistemas de IA mais avançados ainda apresentam pontos fracos, especialmente quando as tarefas exigem que resistam à distração e se concentrem em sequências extensas de informações.

Source link