Pesquisas recentes sugerem que falhas fundamentais na arquitetura dos principais modelos de inteligência artificial (IA) atuais – particularmente grandes modelos de linguagem (LLMs) como ChatGPT, Claude e Gemini – podem impedi-los de alcançar a verdadeira inteligência de nível humano. Esses modelos, embora impressionantes em tarefas como geração de texto, são propensos a “falhas de raciocínio” que prejudicam sua confiabilidade na resolução de problemas complexos.
O problema central: previsão estatística, não pensamento
Os LLMs operam prevendo a próxima palavra ou frase estatisticamente mais provável com base em vastos conjuntos de dados de texto. Esta abordagem é excelente em tarefas linguísticas, mas carece de raciocínio lógico genuíno. Os modelos não pensam ; eles simulam o pensamento agrupando tokens com base em padrões aprendidos.
Essa distinção é importante porque o raciocínio real requer processamento consistente e confiável em várias etapas, algo que os LLMs frequentemente não conseguem entregar. Por exemplo, eles podem se contradizer, enfrentar problemas de várias etapas ou produzir respostas idênticas (incorretas) repetidamente. Isso não é um bug, mas uma consequência da própria arquitetura.
Por que os transformadores lutam com a lógica
A arquitetura dominante por trás da maioria dos LLMs atuais é a rede neural do transformador. Os mecanismos de autoatenção dentro dos transformadores permitem identificar relações entre palavras e conceitos. No entanto, esses mecanismos não equivalem à compreensão real.
LLMs podem imitar de forma convincente o raciocínio, mas isso muitas vezes depende simplesmente da produção de uma cadeia de pensamento plausível, em vez de realizar uma dedução lógica genuína. Pesquisadores do Instituto Alan Turing descrevem isso como “previsão do próximo token disfarçada como uma cadeia de pensamento”.
Essa fraqueza é evidente na forma como os LLMs lidam com tarefas de composição (como a verificação de afirmações multifatais) ou mesmo em problemas matemáticos básicos. Eles frequentemente perdem o controle de informações importantes em sequências mais longas, levando a falhas previsíveis.
As falhas em como testamos a IA
Os benchmarks atuais de IA também são problemáticos. O estudo destaca três questões críticas:
- Sensibilidade de prompt: Pequenas mudanças no texto de uma pergunta podem alterar drasticamente a resposta de um LLM.
- Contaminação de benchmarks: O uso repetido de benchmarks permite que os LLMs aprendam como “enganá-los”.
- Foco no resultado: Os benchmarks normalmente avaliam apenas o resultado do raciocínio, e não o processo em si.
Essas deficiências significam que as atuais métricas de desempenho da IA podem superestimar as capacidades do mundo real.
Como observou um investigador, a própria implantação da IA serve agora como um campo de testes, revelando falhas de formas que os benchmarks tradicionais falham. Este ciclo reforça a necessidade de melhores métodos de avaliação, mas a dependência da IA para testar a IA continua a ser um problema difícil.
Além do dimensionamento: o que é necessário para uma verdadeira AGI?
A pesquisa não descarta totalmente as redes neurais. Em vez disso, argumenta que simplesmente aumentar o tamanho do modelo ou os dados de treinamento provavelmente atingirá um limite. A verdadeira inteligência artificial geral (AGI) pode exigir inovação arquitetônica.
O estudo sugere que o progresso depende de:
- Desenvolver modelos que possam integrar o raciocínio estruturado com a interação incorporada.
- Construir “modelos mundiais” mais fortes que permitam à IA compreender as restrições do mundo real.
- Melhorar o treinamento de robustez para reduzir a dependência de padrões estatísticos.
Em última análise, as limitações dos atuais LLMs sugerem que alcançar a AGI pode exigir repensar fundamentalmente a forma como a IA é construída.
Um pesquisador afirmou sem rodeios: “Os transformadores não são a forma como você constrói uma mente digital”. Embora sejam modelos de linguagem poderosos, eles não possuem os mecanismos cognitivos subjacentes necessários para um raciocínio confiável em nível humano. O caminho a seguir provavelmente reside na exploração de arquiteturas e abordagens alternativas para o desenvolvimento de IA.
