LLMs y autorreferencia: por qué Hofstadter se equivocó

En pocas palabras: Scott Aaronson sostuvo el 1 de septiembre de 2026 que la autorreferencia en LLMs como GPT 5.6 Pro o Fable no fue programada: emerge sola del preentrenamiento sobre texto masivo, igual que aprendieron sobre Pokémon, sin ningún “strange loop” diseñado en la arquitectura.

El 1 de septiembre de 2026, Scott Aaronson publicó una tesis incómoda para varios: los LLMs aprendieron a hablar de sí mismos sin que nadie les programara autorreferencia. La capacidad salió sola del preentrenamiento, igual que aprendieron a hablar de Pokémon o de tectónica de placas. Nadie diseñó un “strange loop” en ningún lado.

La autorreferencia en LLMs es la capacidad de un modelo de lenguaje para hablar sobre sí mismo, sobre su propio funcionamiento y sobre conceptos como el Teorema de Gödel o la recursión. En modelos como GPT 5.6 Pro o Fable no es una función construida a propósito: emerge como subproducto del entrenamiento masivo sobre texto, sin ningún componente de “loop extraño” diseñado en la arquitectura.

¿Qué predijo Douglas Hofstadter sobre la inteligencia artificial?

Hofstadter predijo que la inteligencia (y por lo tanto la IA) iba a depender de la autorreferencia y de lo que él llamó “strange loops”: bucles donde un sistema se dobla sobre sí mismo, se observa, se referencia. Esa fue la tesis central que muchos lectores de Gödel, Escher, Bach (1979) se llevaron a casa, incluido el propio Aaronson.

Si leíste GEB de joven, sabés de qué hablo. El libro tejía a Gödel, a Escher y a Bach alrededor de una idea: la conciencia como un loop que se muerde la cola. Hermoso, ambicioso, y durante décadas se sintió profundamente correcto.

Lo curioso es que The Emperor’s New Mind de Roger Penrose, que en muchos sentidos era el anti-GEB, coincidía con Hofstadter en un punto: la autorreferencia era el eje del asunto. Penrose iba más lejos y afirmaba que la IA nunca podría funcionar, porque había algo en el Teorema de Gödel que ningún programa podía capturar, pero que sí capturaba el cerebro humano vía “física exótica”. Aaronson (y la mayoría de los expertos) considera ese argumento equivocado. Pero fijate el detalle: dos libros enfrentados, la misma obsesión con el self-reference. Para más detalles técnicos, mirá el razonamiento profundo en modelos de lenguaje.

¿Necesitaron los LLMs autorreferencia explícita para funcionar?

No. En ninguna parte del stack técnico de los LLMs modernos alguien tuvo que construir autorreferencia. Ni en las redes neuronales tipo transformer, ni en los clusters de GPU donde corren, ni en el proceso de entrenamiento. Los ingenieros armaron un predictor de próxima palabra sobre texto, cuidaron que el instruction set no se quedara corto de universalidad, y listo.

Hay una excepción menor: las system instructions que le cuentan al modelo cuál es su rol y su identidad. Pero eso no hace falta para que el modelo sea inteligente, es apenas contexto operativo. Y ojo con confundir la autoregresión con autorreferencia. Que el modelo lea sus propios tokens anteriores para generar el siguiente es feedback dinámico, no un “strange loop” a la Hofstadter. Es como decir que el Juego de la Vida de Conway se piensa a sí mismo porque cada generación depende de la anterior. Feedback iterativo, sí; introspección, no.

Toda esa infraestructura (los transformers, las GPUs, el pipeline de entrenamiento) es cómputo bruto sobre datos, y si querés experimentar con modelos propios necesitás servidores de verdad, no magia recursiva. Para levantar ese tipo de infraestructura en Argentina tenés opciones locales como donweb.com. El punto conceptual es que nada de eso incluye un solo componente autorreferencial de diseño.

¿Cómo hablan los LLMs sobre sí mismos si nadie lo programó?

Porque la capacidad de hablar de sí mismos emergió como un subproducto de poder hablar de cualquier cosa dentro del universo de discurso con el que se entrenaron. GPT 5.6 Pro y Fable discuten el Teorema de Gödel, la autorreferencia y la teoría de la computación mejor que la mayoría de las personas, pero esa habilidad emergió sola del mismo preentrenamiento que les enseñó de terapia cognitivo-conductual y de polímeros de cadena larga.

Aaronson lo compara con algo que ya conocíamos. ZFC (la teoría de conjuntos que fundamenta buena parte de la matemática) puede formalizar y demostrar teoremas sobre sí misma. Las computadoras electrónicas pueden correr programas que toman su propio código como entrada. Pero nadie tuvo que construir esas habilidades a mano: aparecieron gratis, como subproducto de la universalidad. El self-reference no está en el alfabeto ni en las reglas de la gramática, y sin embargo el lenguaje puede hablar de sí mismo.

Con esto se entiende por qué Hofstadter quedó, según Aaronson, “atónito” con el éxito de los LLMs y bastante deprimido con el estado actual de la IA. Es demasiado inteligente como para negar lo que pasó o inventar razones de por qué “no cuenta de verdad” (la salida fácil que eligieron muchos). Tenemos inteligencia conversacional real por un camino que la cosmovisión de GEB habría descartado por demasiado barato y simple. Ya lo cubrimos antes en cómo interpreta Claude sus propias respuestas.

¿Qué idea reemplazó a los “strange loops”?

La idea que quedó en pie es que la inteligencia es predicción, la predicción es compresión, y la compresión es encontrar cotas superiores cada vez mejores de la complejidad de Kolmogorov. Esa vieja intuición resultó vindicada. La de la autorreferencia como requisito de diseño, no.

¿Por qué se equivocó tanta gente brillante? Porque confundieron un concepto matemático genuinamente importante con un requisito de ingeniería. La diagonalización y la autorreferencia fueron centrales en el nacimiento de la lógica moderna y la ciencia de la computación, cierto. Pero sus usos más famosos fueron resultados negativos: no hay biyección entre los naturales y los reales, no existe un sistema de prueba completo y consistente para la aritmética, no hay un algoritmo que resuelva el problema de la parada.

Fijate el matiz. Si tu objetivo era construir los axiomas de ZFC o armar una computadora electrónica, no necesitabas autorreferencia explícita. Arrancabas a construir y cuidabas la universalidad. La autorreferencia servía para demostrar límites, no para habilitar capacidades. Hay una excepción elegante: si querés entender por qué la complejidad de Kolmogorov no se puede computar de forma perfecta, ese enunciado negativo sí exige un argumento autorreferencial. O sea, el self-reference sigue siendo la herramienta para probar lo que no se puede hacer.

Autoconciencia vs ilusión de autoconciencia en modelos de lenguaje

Que un modelo hable de sí mismo con soltura no implica que sea consciente. Una cosa es la capacidad lingüística para referirse a su propio rol y funcionamiento, y otra muy distinta la introspección genuina. Los LLMs hacen predicción estadística sofisticada sobre texto, y la apariencia de autoconocimiento es una construcción textual convincente, no self-awareness verificable.

Ponele que le preguntás a un modelo “¿sabés que sos una IA?” y te responde con un párrafo lúcido sobre su naturaleza, sus límites y su entrenamiento. Suena a introspección. Pero es el mismo mecanismo que usa para explicarte la fotosíntesis: recuperar y recombinar patrones del corpus. No hay una lucecita adentro reportando lo que “siente”. Esto se conecta con lo que analizamos en la autoreferencia en ChatGPT y similares.

Acá Aaronson es honesto sobre lo que no sabemos. La consciencia y la experiencia subjetiva siguen siendo un misterio enorme. Para lo que sabemos, Hofstadter podría tener razón en que esas cosas tienen algo que ver con la autorreferencia. Incluso Penrose podría tener razón con su física exótica accesible a los cerebros biológicos y no a las computadoras digitales. La tesis que se derrumbó es más acotada: la de que necesitabas autorreferencia explícita antes de conseguir inteligencia conversacional convincente.

LLMs y autorreferencia: ¿sigue importando en 2026?

Sí, pero en campos específicos, no como requisito para que un chatbot sea inteligente. La autorreferencia sigue siendo central en lógica formal, en pruebas de límites de sistemas, y potencialmente en mecanismos de verificación y seguridad de IA. Ahí la diagonalización no se jubila.

Hay una línea futura interesante: agregar memoria a largo plazo a los modelos sí introduciría autorreferencia real vía feedback loops, un sistema que se lee y se reescribe a lo largo del tiempo. Eso no es autoregresión trivial. Aunque conviene tomarlo con pinzas, porque de ahí a que aparezca consciencia hay un salto que nadie sabe cómo dar (ni siquiera si existe el salto).

Aaronson cierra con una imagen fuerte. La idea de que hacía falta self-referentiality explícita para lograr inteligencia conversacional que cambiara el mundo merece ser enterrada, dice, junto a las grandes ideas equivocadas de la historia: el geocentrismo, la física teleológica de Aristóteles, el éter, el flogisto, la psicología de Freud, la predicción de Marx sobre el levantamiento obrero y la utopía sin clases. Compañía prestigiosa para un error prestigioso.

Errores comunes al hablar de autorreferencia en LLMs

• Creer que la autoregresión es autorreferencia. Que el modelo dependa de sus tokens previos para generar el siguiente es feedback dinámico, no introspección. Confundirlos lleva a atribuirle “conciencia de sí” a un mecanismo puramente predictivo.
• Asumir que hablar de sí mismo prueba autoconciencia. Un modelo describe su propio funcionamiento con la misma maquinaria con la que describe la tectónica de placas. La fluidez es lingüística, no evidencia de experiencia subjetiva.
• Pensar que alguien “programó” la capacidad de metalenguaje. No hay un módulo de self-reference en el código. Emergió del preentrenamiento, como todas las demás capacidades del modelo.
• Descartar el éxito de los LLMs porque “no tienen strange loops”. Es la salida fácil que critica Aaronson. La inteligencia conversacional ya está acá, la haya predicho GEB o no.

Preguntas Frecuentes

¿Necesitan autorreferencia explícita los LLMs para ser inteligentes?

No. Según Scott Aaronson (1 de septiembre de 2026), los LLMs alcanzan inteligencia conversacional sin ningún componente de autorreferencia construido en la arquitectura. La capacidad de hablar de sí mismos emerge como subproducto del preentrenamiento, no como una función diseñada a propósito. Te puede servir nuestra cobertura de en la arquitectura de los modelos GPT.

¿Qué predijo Hofstadter sobre la IA que resultó incorrecto?

Hofstadter predijo en Gödel, Escher, Bach (1979) que la inteligencia dependía de “strange loops” y autorreferencia. Esa tesis, tomada como requisito de diseño para la IA, no se sostuvo: los transformers lograron inteligencia conversacional sin ningún loop extraño incorporado deliberadamente.

¿Por qué los LLMs pueden hablar sobre sí mismos si no fue programado?

Porque la habilidad emerge de poder hablar de cualquier tema del corpus de entrenamiento. Igual que ZFC puede probar teoremas sobre sí misma y una computadora puede correr su propio código como entrada, el self-reference aparece gratis como subproducto de la universalidad, sin que nadie lo construya.

¿Es real la autoconciencia de la IA o solo una ilusión?

Hablar de sí mismo no equivale a ser consciente. Los LLMs hacen predicción estadística, y su aparente autoconocimiento es una construcción textual convincente, no introspección genuina. Aaronson aclara que la consciencia sigue siendo un misterio abierto y que nadie puede afirmar hoy que un modelo la tenga.

¿Cuál es la diferencia entre “strange loops” y transformers?

Un “strange loop” es un bucle autorreferencial donde un sistema se observa a sí mismo, la base de la inteligencia según Hofstadter. Un transformer es una red neuronal que predice el próximo token comprimiendo patrones de texto. La autoregresión del transformer es feedback dinámico, no autorreferencia en el sentido de Hofstadter.

Conclusión

Lo que cambió es que ya no hace falta especular. Durante casi medio siglo, una generación de gente inteligente creyó que sin autorreferencia explícita no había inteligencia posible. En 2026 tenemos modelos que discuten a Gödel mejor que casi cualquiera, y esa habilidad no la puso nadie: cayó sola del preentrenamiento sobre texto. La apuesta de la compresión y la predicción ganó; la de los “strange loops” como requisito de diseño perdió.

¿Qué hacer con esto si trabajás con IA? Dejá de buscar la magia recursiva y prestá atención a lo que importa: qué tan bien tu sistema comprime, predice y generaliza. Y guardate el escepticismo para la parte que sigue abierta. Que un modelo hable de su propia mente no significa que tenga una. Sobre la consciencia y la experiencia subjetiva seguimos sin saber casi nada, y ahí Hofstadter, o incluso Penrose, todavía podrían tener razón.

Fuentes

• Shtetl-Optimized (Scott Aaronson) – “LLMs and self-referentiality”, 1 de septiembre de 2026
• UNAM Global – “La inteligencia artificial, muy lejos de la autoconciencia”
• PwC – “Descifrando los secretos de los LLM”
• Sophist – “Douglas Hofstadter y los strange loops”
• arXiv – Paper sobre autorreferencia y modelos de lenguaje (2607.04277)