Investigaciones recientes sugieren que fallas fundamentales en la arquitectura de los principales modelos de inteligencia artificial (IA) de la actualidad –particularmente modelos de lenguaje grande (LLM) como ChatGPT, Claude y Gemini– pueden impedirles alcanzar una verdadera inteligencia a nivel humano. Estos modelos, si bien son impresionantes en tareas como la generación de texto, son propensos a “fallos de razonamiento” que socavan su confiabilidad en la resolución de problemas complejos.
El problema central: predicción estadística, no pensamiento
Los LLM operan prediciendo la siguiente palabra o frase estadísticamente más probable basándose en vastos conjuntos de datos de texto. Este enfoque sobresale en tareas lingüísticas pero carece de un razonamiento lógico genuino. Los modelos no piensan ; simulan el pensamiento encadenando fichas basadas en patrones aprendidos.
Esta distinción es importante porque el razonamiento real requiere un procesamiento consistente y confiable en múltiples pasos, algo que los LLM frecuentemente no logran. Por ejemplo, pueden contradecirse, tener problemas con problemas de varios pasos o producir respuestas idénticas (incorrectas) repetidamente. Esto no es un error sino una consecuencia de la arquitectura misma.
Por qué los transformadores luchan con la lógica
La arquitectura dominante detrás de la mayoría de los LLM actuales es la red neuronal transformadora. Los mecanismos de autoatención dentro de los transformadores les permiten identificar relaciones entre palabras y conceptos. Sin embargo, estos mecanismos no equivalen a una comprensión real.
Los LLM pueden imitar convincentemente el razonamiento, pero esto a menudo se basa simplemente en generar una cadena de pensamiento plausible en lugar de realizar una deducción lógica genuina. Los investigadores del Instituto Alan Turing describen esto como “una predicción del siguiente token disfrazada de una cadena de pensamiento”.
Esta debilidad es evidente en la forma en que los LLM manejan tareas de composición (como verificar afirmaciones de múltiples hechos) o incluso problemas matemáticos básicos. Con frecuencia pierden la pista de información clave en secuencias más largas, lo que genera fallas predecibles.
Los defectos en la forma en que probamos la IA
Los puntos de referencia actuales de IA también son problemáticos. El estudio destaca tres cuestiones críticas:
- Sensibilidad de las indicaciones: Pequeños cambios en la redacción de una pregunta pueden alterar drásticamente la respuesta de un LLM.
- Contaminación de puntos de referencia: El uso repetido de puntos de referencia permite a los LLM aprender cómo “engañarlos”.
- Enfoque en los resultados: Los puntos de referencia generalmente evalúan solo el resultado del razonamiento, no el proceso en sí.
Estas deficiencias significan que las métricas de rendimiento de la IA actuales pueden sobreestimar las capacidades del mundo real.
Como señaló un investigador, la implementación de la IA en sí misma ahora sirve como campo de pruebas, revelando fallas que los puntos de referencia tradicionales pasan por alto. Este ciclo refuerza la necesidad de mejores métodos de evaluación, pero la dependencia de la IA para probarla sigue siendo un problema difícil.
Más allá del escalamiento: ¿Qué se necesita para una verdadera AGI?
La investigación no descarta por completo las redes neuronales. En cambio, sostiene que simplemente aumentar el tamaño del modelo o los datos de entrenamiento probablemente alcanzará un límite. La verdadera inteligencia artificial general (AGI) puede requerir innovación arquitectónica.
El estudio sugiere que el progreso depende de:
- Desarrollar modelos que puedan integrar el razonamiento estructurado con la interacción corporal.
- Construir “modelos mundiales” más sólidos que permitan a la IA comprender las limitaciones del mundo real.
- Mejorar la capacitación en solidez para reducir la dependencia de patrones estadísticos.
En última instancia, las limitaciones de los LLM actuales sugieren que lograr AGI puede requerir repensar fundamentalmente cómo se construye la IA.
Un investigador afirmó sin rodeos: “Los transformadores no son la forma de construir una mente digital”. Si bien son modelos de lenguaje poderosos, carecen de los mecanismos cognitivos subyacentes necesarios para un razonamiento confiable a nivel humano. El camino a seguir probablemente pase por explorar arquitecturas y enfoques alternativos para el desarrollo de la IA.
