De acordo com o eminente cientista da computação Peter J. Denning, as famosas ideias de Alan Turing sobre inteligência artificial direcionaram a pesquisa de IA para o caminho errado nos últimos 75 anos.
Em seu novo livro, A falácia de Turing: escapar do jugo das máquinas inteligentesDenning argumenta que duas suposições fundamentais feitas por Turing na década de 1950 continuam a moldar a pesquisa em IA hoje. A primeira é que a inteligência pode existir independentemente de um corpo físico e, portanto, pode ser recriada em software de computador. A segunda é que uma máquina pode demonstrar inteligência imitando com sucesso uma conversa humana, uma ideia mais tarde conhecida como teste de Turing.
“Essas duas afirmações moldaram grande parte da pesquisa e desenvolvimento de IA”, escreve Denning. “Minha premissa é que nossa conformidade com essas demandas levou à confusão de IA em que nos encontramos hoje.”
Denning argumenta que é improvável que a busca pela inteligência artificial geral (AGI), ou máquinas com inteligência de nível humano, tenha sucesso. Em vez disso, alerta ele, as tecnologias que a sociedade está a desenvolver podem introduzir novos riscos significativos.
Problema de conhecimento tácito
No centro do argumento de Denning está o conceito de conhecimento tácito, a vasta quantidade de compreensão humana que não pode ser facilmente expressa em palavras ou representada numa forma que os computadores possam processar.
A aprendizagem automática, diz ele, não consegue captar cinco categorias principais de conhecimento: conhecimento geral, interações quotidianas com as pessoas e o ambiente, emoções e perceções, competências de desempenho prático e conhecimento social e histórico incorporado na cultura.
Os pesquisadores há muito tentam organizar o conhecimento comum em bancos de dados. Um dos esforços mais conhecidos é o Psych Project de Douglas Lennett, que começou na década de 1980 com o objetivo de criar uma coleção abrangente de dados de senso comum. Após quatro décadas de operação, o projeto conta com cerca de 25 milhões de inscritos.
“No entanto, este tesouro não se soma ao conhecimento geral que pode tornar os sistemas especialistas inteligentes o suficiente para serem especialistas”, observa Denning. “A SCI verificou que muito do conhecimento que torna os humanos especialistas não pode ser expresso como proposições.”
Denning acredita que as habilidades práticas representam um desafio maior.
“Nossa experiência em desempenho em milhares de domínios não pode ser comunicada às máquinas”, explica ele. “Como a descrição de resultados eficientes (‘saber o quê’) pode muitas vezes ser representada como bits e armazenada em uma máquina, não sabemos como codificar o conhecimento incorporado (‘saber como’) para um desempenho eficiente.”
Ele aponta músicos talentosos como exemplo.
“Um violinista virtuoso pode tocar uma bela música, mas não consegue descrever a um acólito como fazê-la.
“Mesmo que um robô possa observar e imitar humanos habilidosos, sem corpo biológico, um robô não consegue entender como um músico se sente ao tocar uma bela música ou como o público se sente ao ouvi-la.”
Denning também inclui intuição, intuição, imaginação e criatividade espontânea que estão além do alcance das máquinas.
Por que a cognição humana resiste à codificação
Denning argumenta que todas essas limitações decorrem do que ele chama de “problema representacional”.
Os computadores só podem realizar cálculos usando dados e instruções codificados em formas físicas que possam reconhecer e processar. O conhecimento consciente, entretanto, não se enquadra naturalmente nessa estrutura.
Denning diz: “Por trás de cada palavra existe um poço profundo de conhecimento absoluto que lhe dá significado”. “As palavras são apenas representações simbólicas do significado, não o significado em si. Grandes modelos de linguagem comumente usados, como ChatGPT, Cloud e Gemini, usam apenas palavras, sem saber ou compreender o significado do que estão dizendo.”
Segundo Denning, isto cria uma divisão fundamental. Como os cientistas ainda não conseguem explicar completamente como funciona o conhecimento tácito nos seres humanos, não conseguem traduzi-lo numa forma que as máquinas possam utilizar.
“Como hospedamos o conhecimento ingênuo é em grande parte um mistério”, admite Denning. “Tudo o que sabemos é que está incorporado. Não temos ideia do que podemos observar e medir em nossos corpos para expressá-lo.”
Contexto e cultura moldam a inteligência
Denning também argumenta que a inteligência depende muito do contexto, das circunstâncias circundantes que dão significado às palavras, ações e decisões.
O contexto permite que as pessoas reconheçam sarcasmo, humor, sinceridade e emoção. Ajuda a determinar quando ser diplomático, quando brincar e como interpretar uma infinidade de sinais sociais.
“Quando você investiga de onde veio uma hipótese no contexto atual, você descobre que ela depende de conversas anteriores com contextos anteriores. Cada uma delas, por sua vez, depende de conversas anteriores e de seus contextos. Esse padrão é contínuo e fractal”, explica Denning.
A cultura apresenta outro grande obstáculo para a IA.
Denning descreve a cultura como uma relação que envolve valores, normas, julgamentos, história, comunidade, temperamento e até mesmo poder e cuidado.
“As conversas humanas envolvem suposições básicas que dão significado e contexto às palavras usadas”, explica Denning.
“Escalar LLMs com redes neurais muito maiores não lhes permitirá capturar o conhecimento humano incorporado que chamamos de cultura. Os LLMs não atingirão o propósito do Teste de Turing: distinguir o pensamento da máquina do pensamento humano.”
Segurança da IA e os limites da compreensão humana
Denning conclui que os humanos e os sistemas de IA podem eventualmente desenvolver formas de conhecimento ingênuo que não podem ser totalmente compreendidos.
“As máquinas não conseguem ler o nosso conhecimento tácito e nós não conseguimos ler o deles”, escreveu ele. “Somos alienígenas atravessando uma divisão intransponível.”
Ele argumenta que esta lacuna levanta sérias preocupações sobre a segurança da IA. Se as máquinas não conseguirem interpretar o contexto tácito por trás das intenções humanas, pode ser impossível alinhar de forma confiável os sistemas avançados de IA com os objetivos humanos.
“Através da automação da IA, as redes de máquinas ativas podem desenvolver a sua própria inteligência mecânica que não atinge o nível da inteligência humana normal, mas ainda é capaz o suficiente para criar problemas graves para os humanos.
“A inteligência das máquinas tem preocupações diferentes das nossas e parece não se importar connosco. As suas formas de pensar e resolver problemas parecem-nos estranhas. Ainda não sabemos como viver em segurança com estas máquinas.
“Retornar de uma singularidade de automação de IA exigirá muito de nós. Começamos reconhecendo que a cultura familiar está desaparecendo com a presença de máquinas inteligentes em nossa sociedade e não sabemos o que está por vir.
