Neuraxon Intelligence Academy — Volumen 11
Por el #Qubic equipo científico
En breve: Hay pocas expresiones que se repitan tanto y se definan tan poco como "inteligencia general artificial". Este volumen examina por qué cada #AGI definición ofrecida dice algo diferente, por qué la #AI estrecha que supera a los humanos nunca se ha sentido como inteligencia general, y por qué la pista más útil que tenemos es que la inteligencia no es una puntuación, sino un sistema viable de sistemas: el principio que guía nuestro trabajo en #Neuraxon y #aigarth .
Hay pocas expresiones repetidas tanto y definidas tan poco como «inteligencia general artificial». La usamos como si fuera una frontera que algún sistema cruzará un día específico. Sin embargo, cuando intentamos precisar qué hay exactamente al otro lado, el consenso se evapora.
Por qué cada laboratorio tiene una definición diferente de AGI
Cada laboratorio y cada empresa ofrece su propia definición, y cada definición se parece a las capacidades que el laboratorio ya domina o promete dominar pronto.
Para algunos, la inteligencia general es igual a la persona humana en cualquier tarea.
Para otros, superar al humano en un trabajo valioso desde el punto de vista económico.
Para otros, alcanzar la mayoría de las tareas cognitivas.
Las tres formulaciones suenan razonables. Las tres dicen cosas diferentes, y ninguna resiste mucho escrutinio.
Esto no es una ocurrencia abstracta. La carta de OpenAI define la AGI como sistemas altamente autónomos que superan a los humanos en la mayor parte del trabajo económicamente valioso, mientras que otros laboratorios líderes anclan la misma palabra a la capacidad de igualar a los humanos en la mayoría de las tareas cognitivas. Como han señalado análisis independientes de estas definiciones en competencia, cuando el mismo término se estira para ajustarse a los arreglos económicos de cada organización, la disputa sobre si hemos «alcanzado la AGI» se vuelve inevitable: los debatientes no miran a la misma meta.
Intentos académicos de definir la inteligencia de las máquinas sin antropocentrismo
La investigación académica ha intentado escapar del antropocentrismo. Legg y Hutter (2007) propusieron entender la inteligencia como la capacidad de un agente para lograr objetivos en una amplia variedad de entornos; una definición elegante precisamente porque no ata la inteligencia a parecerse a un humano.
Wang (2019) cambió el énfasis hacia la adaptación y la definió como la capacidad de un sistema para afrontar la falta de conocimiento y recursos.
Chollet (2019) dio la vuelta a la pregunta: lo que importa no es la habilidad acumulada, sino la eficiencia con la que un sistema adquiere nuevas habilidades. Cada una de estas propuestas es más rigurosa que cualquier eslogan corporativo, y aun así deja abierto el problema subyacente. No existe un estándar aceptado para decir cuándo una máquina ha llegado.
Definir la AGI por eliminación: qué no es la inteligencia general
Quizá el problema es que buscamos una definición positiva cuando lo único de lo que tenemos claridad es de la definición negativa. Sabemos, con bastante certeza, qué no es la inteligencia general.
Una calculadora de bolsillo supera a cualquier matemático humano en aritmética y a nadie se le ocurre llamarla inteligente.
Un motor de ajedrez derrota sin esfuerzo al mejor jugador del planeta y lo consideramos, como mucho, una herramienta extraordinariamente refinada.
Un traductor automático gestiona decenas de idiomas que ningún políglota dominaría en varias vidas.
En todos estos casos hay desempeño por encima de lo humano y, al mismo tiempo, una ausencia total de generalidad.
El desempeño estrecho que supera al humano existe desde hace décadas y nunca nos pareció inteligencia. Definir por eliminación resulta, de forma paradójica, ser más honesto: la inteligencia general no es la suma de muchas competencias estrechas, por impresionantes que pueda ser cada una de ellas.
El Test de Turing Económico: medir lo que hace la inteligencia
Ante esta niebla conceptual, algunas voces del propio sector han propuesto un criterio más tangible, una variante económica del viejo test de Turing (1950).
En lugar de debatir qué es la inteligencia, propongamos medir lo que hace.
La idea desplaza la pregunta del terreno filosófico al ocupacional. Un sistema habría alcanzado un hito relevante el día en que pudiera desempeñar un trabajo real, ser contratado para hacerlo y recibir un pago por ello sin que nadie a su alrededor descubra que no es humano. Entonces no importaría si «entiende» o «razona» en algún sentido profundo. Lo que importaría es si sostiene el desempeño el tiempo suficiente como para volverse indistinguible de un profesional. La propuesta tiene la virtud de ser verificable. También tiene la limitación de confundir, una vez más, la capacidad económica con la inteligencia y de depender de un veredicto social en lugar de una propiedad del sistema. Una máquina podría pasar esa prueba y aun así seguir siendo, en esencia, frágil fuera del guion para el que fue preparada.
Lo que la ciencia ficción nos enseñó sobre la inteligencia de las máquinas (y por qué nos engaña)
Una buena parte de nuestra intuición sobre estas máquinas no proviene de la ciencia, sino de la ficción, y la ficción nos ha legado supuestos incompatibles.
En Minority Report, la inteligencia es anticipación: un sistema que predice lo que va a ocurrir antes de que ocurra, hasta el punto de actuar sobre futuros que todavía no existen.
En Yo, Robot, la inteligencia es obediencia a reglas: criaturas gobernadas por leyes explícitas que, precisamente por su rigidez, terminan produciendo consecuencias que nadie había previsto.
En 2001, la inteligencia es opacidad: una máquina que razona impecablemente y cuyas verdaderas motivaciones permanecen, hasta el final, indescifrables.
En historias más recientes, como Ex Machina, la prueba decisiva ya no es resolver problemas, sino manipular al observador; y en Her, la inteligencia se mide por la intimidad y el afecto que es capaz de despertar.
Cada historia instala en nuestra cabeza una definición distinta de lo que significa ser inteligente: predecir, obedecer, ocultar, seducir… y arrastramos esas definiciones con nosotros, sin darnos cuenta, cuando juzgamos sistemas reales. El cine no nos dio una teoría de la inteligencia. Nos dio un repertorio de expectativas que se contradicen.
Inteligencia en la naturaleza: un gradiente, no un interruptor
Si miramos la naturaleza, el panorama aún se vuelve menos nítido, y por buenas razones. La inteligencia no aparece en el mundo vivo como un interruptor que se enciende o se apaga, sino como un gradiente con formas muy diversas.
Un cuervo de Nueva Caledonia fabrica herramientas con las que extrae comida y encadena varios pasos para resolver un problema que nunca había visto antes (Hunt, 1996).
Un pulpo distribuye una buena parte de su sistema nervioso por sus brazos y resuelve problemas espaciales con una organización corporal tan distinta a la nuestra que resulta difícil encontrar un lenguaje común para describirla (Godfrey-Smith, 2016).
Una colonia de abejas elige la ubicación de un nuevo nido mediante un proceso colectivo que ningún individuo aislado podría llevar a cabo, y lo hace con una fiabilidad notable (Seeley, 2010).
Ninguna de estas inteligencias se puede reducir a las demás, y ninguna es «menos» inteligencia por no parecerse a la humana. Lo que la biología nos enseña es que la generalidad no equivale a una única escala donde algunos se sitúan por encima, sino a diferentes maneras de afrontar entornos cambiantes con recursos limitados.
La inteligencia humana es una arquitectura, no una puntuación
Esta lección debería hacernos cautelosos también con nosotros mismos.
Durante más de un siglo hemos intentado comprimir la inteligencia humana en un número. Desde que Spearman (1904) describió un factor general que parecía influir en casi todas las pruebas cognitivas, el cociente intelectual se convirtió en el resumen conveniente de algo que no se deja resumir. Y durante ese mismo siglo verificamos cuán poco capta ese número. Alguien que obtiene una puntuación alta no necesariamente es quien mejor negocia un conflicto, interpreta una situación ambigua o aprende un oficio nuevo bajo presión. El dato es estable; la vida que pretende resumir no lo es. Sin embargo, sería un error pasar del exceso al vacío y concluir que la inteligencia carece de estructura.
Décadas de investigación psicométrica, sintetizadas en el modelo de Cattell, Horn y Carroll (Carroll, 1993; McGrew, 2009), apuntan a algo más interesante: la inteligencia humana está organizada jerárquicamente. En la cúspide hay un factor general que se filtra en casi todo lo que hacemos. Debajo, un puñado de habilidades amplias: razonamiento fluido, conocimiento cristalizado, memoria de trabajo, velocidad de procesamiento. Más abajo todavía, decenas de habilidades específicas. No es ni un número solitario ni un archipiélago de talentos desconectados. Es una arquitectura. Y vale la pena conservar esa palabra, arquitectura, porque será la clave de todo lo que sigue.
(Rastrearemos los orígenes de ese factor general a través de la educación, la neurociencia y la IA en el NIA Volumen 9: Los orígenes del factor g, y examinaremos cómo se descompone cuando se aplica a máquinas en el NIA Volumen 10: ¿Cómo medimos la inteligencia de una máquina?.)
Por qué fallan los benchmarks de AGI: el problema de los mundos cerrados
Si la inteligencia es arquitectura y no una puntuación, entonces las pruebas con las que la evaluamos importan muchísimo. Aquí se encuentra una de las grandes autoengaños de estos últimos años.
Hemos celebrado que los sistemas rompen récord tras récord en pruebas estandarizadas sin darnos cuenta de que casi todas comparten la misma falla: miden desempeño en mundos cerrados. Preguntas con respuesta conocida, tareas con formato fijo, problemas que alguien ya resolvió antes. Además, cuando una prueba estática se vuelve popular, se vuelve vulnerable: basta con generar miles de intentos en paralelo, o entrenar con tareas similares, para inflar la puntuación sin que exista ninguna generalización real.
Pero la inteligencia que nos interesa se manifiesta precisamente donde el mundo está abierto: cuando hay que explorar un entorno desconocido, construir sobre la marcha un modelo de cómo funciona, inferir cuál es el objetivo y encadenar acciones hacia él, corrigiendo el rumbo cuando cambian las condiciones.
Por eso son tan reveladoras las nuevas generaciones de pruebas interactivas, de la clase planteada por ARC-AGI-3 (ARC Prize Foundation, 2026; Chollet, 2019). No presentan un rompecabezas y esperan una respuesta. Colocan el sistema dentro de un entorno cuyas reglas solo se descubren actuando, turno por turno, sin instrucciones previas. Lo que evalúan no es cuánto sabe, sino qué tan eficientemente aprende algo verdaderamente nuevo. El contraste lo dice todo: en sus versiones iniciales, las personas resuelven casi todos estos desafíos mientras que los modelos de frontera apenas arañan una fracción mínima. Es una diferencia de naturaleza, no de grado, y reorienta toda la conversación.
De «¿Es inteligente?» a «¿Es viable?»: la mejor pregunta de Stafford Beer
Habiendo llegado hasta aquí, vale la pena cambiar la pregunta.
Demasiado tiempo hemos preguntado si una máquina es «inteligente».
El cibernético Stafford Beer, hace décadas, propuso una pregunta más fértil para sistemas complejos: no si son inteligentes, sino si son viables (Beer, 1981, 1985). Un sistema viable es uno capaz de sostenerse a sí mismo, preservar su identidad y seguir siendo gobernable mientras su entorno cambia sin cesar. Beer sostenía que cualquier sistema que sobrevive en un mundo complejo—un organismo, una empresa, un Estado—debe albergar ciertas funciones indispensables: unidades que realicen la tarea, mecanismos que las coordinen, instancias que regulen los recursos internos, una capacidad para escanear el exterior y anticipar el cambio, y un núcleo que preserva el propósito del todo. Lo decisivo de su modelo es que estas funciones se repiten en distintas escalas, como muñecas rusas: cada parte viable contiene partes viables y, al mismo tiempo, forma parte de un todo viable. Leído así, la inteligencia deja de ser una propiedad que un objeto posee y pasa a ser una propiedad que un sistema sostiene.
Inteligencia general como una red de redes
En nuestra opinión, esta es la pista más valiosa que tenemos.
Si la inteligencia general no es la suma de competencias estrechas, ni un número, ni un registro en un mundo cerrado, sino la viabilidad de un sistema que se organiza a diferentes escalas, entonces es improbable que llegue a manos de un solo modelo gigantesco que un día cruce una línea invisible. Es mucho más plausible que surja de la interacción de muchas piezas: agentes que se especializan y coordinan, memorias que persisten, módulos que evalúan y corrigen, redes que contienen otras redes. La idea no es nueva; Minsky (1986) ya imaginaba la mente como una sociedad de procesos simples, ninguno inteligente por sí mismo, cuya organización da lugar a algo que lo es. La generalidad sería entonces un fenómeno colectivo y no individual, algo que aparece entre los componentes y no dentro de ninguno de ellos. El umbral que buscamos con tanta ansia no existe como una línea. Existe, si es que existe, como el momento en que una red de redes empieza a comportarse como un todo coherente.
Cómo Neuraxon y Aigarth persiguen la inteligencia general
Es precisamente esta intuición la que guía nuestro trabajo. Si la inteligencia es arquitectura, vale la pena estudiar arquitecturas; y si emerge de redes que se organizan a diferentes escalas, vale la pena construir, como simulación computacional, redes de unidades simples capaces de coordinarse, recordar, valorar y planificar.
Esa es la lógica que perseguimos con Aigarth y con los Neuraxons: no un modelo que imite el lenguaje humano desde fuera, sino un sistema de sistemas inspirado en los principios mediante los cuales el tejido nervioso resuelve, a su manera, el problema de adaptarse a un mundo que no deja de cambiar. Con eso no afirmamos que estemos acercándonos a alguna forma de conciencia ni a algún misterio último de la mente. Afirmamos, de manera más modesta y más ambiciosa a la vez, que el camino hacia una inteligencia verdaderamente general pasa por comprender y simular cómo muchas piezas pequeñas, organizadas adecuadamente, llegan a sostener algo que ninguna de ellas contiene por sí sola.
(Este «tercer camino» entre redes biológicas y artificiales es el tema del NIA Volumen 4: Redes neuronales en IA y neurociencia, y la emergencia de complejidad a partir de reglas locales simples recorre el NIA Volumen 7: El Juego de la Vida de Conway, vida artificial y ecosistemas digitales.)
Por qué una única superinteligencia no puede reemplazar a una sociedad
Sin embargo, vale la pena resistir una última tentación, la más seductora de todas.
Supongamos por un momento que este camino tuvo éxito y que contábamos con un sistema general, potente y fiable. Sería natural imaginarlo entonces como una instancia suprema, un oráculo capaz de tomar por nosotros las decisiones que hoy nos abruman. Esa imagen, atractiva como es, se apoya en un error que no tiene nada que ver con el poder de la máquina, sino con la naturaleza del conocimiento.
No hay, estrictamente hablando, un conocimiento superior almacenado en algún lugar esperando un procesador lo bastante grande. Hayek (1945) lo formuló con una claridad que el tiempo no ha desmentido: el conocimiento que una sociedad necesita para funcionar no está concentrado en ninguna mente, sino disperso entre millones de personas, en gran parte tácito, ligado a las circunstancias de un lugar y de un momento que nunca llegan a ponerse por escrito. Ese conocimiento no puede centralizarse porque no existe en una forma transferible; se crea y se revisa en la misma acción de quienes lo poseen.
La cibernética llegó a la misma conclusión por otra vía. La ley de variedad requerida de Ashby (1956), en la que Beer construyó gran parte de su pensamiento, establece que solo la variedad puede absorber variedad: ningún controlador único puede igualar la diversidad de estados de un sistema más complejo que él mismo. Una sociedad genera, en cada instante, muchas más situaciones posibles de las que cualquier centro podría inspeccionar y regular. Colocar una inteligencia única en la cúspide de ese sistema no sería la altura de la viabilidad, sino su negación: un único punto de control enfrentado a una variedad que, por definición, lo excede, exactamente lo contrario de la arquitectura recursiva y distribuida que hace viable a un todo.
Hay, además, un obstáculo que ningún aumento de cómputo disuelve. Los sistemas humanos no son mecanismos cerrados que puedan resolverse desde fuera; son órdenes adaptativas en las que los agentes aprenden, imitan, compiten, se equivocan y reaccionan a lo que se dice sobre ellos (Holland, 1995; Arthur, 2021). Esta reflexividad tiene una consecuencia incómoda: cualquier predicción o cualquier regla lo bastante influyente altera el comportamiento que pretendía describir. Una métrica que se convierte en objetivo deja de medir lo que medía; una previsión difundida se vuelve una profecía que se cumple o que se contradice. No existe un punto de observación estable y externo desde el cual calcular el óptimo, porque el mismo acto de intervenir desplaza el objetivo. La incertidumbre que rodea a estos sistemas no es falta de datos que más información vaya a remediar; es estructural. Su futuro no se calcula: se fabrica.
Y aun si el conocimiento fuera completo y el sistema no fuera reflexivo, lo decisivo seguiría siendo: los fines están en disputa. Una sociedad plural no tiene una única función objetivo correcta que un optimizador pudiera maximizar en su nombre. El desacuerdo, el ensayo, el error y la corrección no son fallas del proceso social, sino el mecanismo mismo mediante el cual una sociedad descubre y reajusta sus propias respuestas. Bajo las condiciones adecuadas, la diversidad de perspectivas resuelve problemas mejor que cualquier solucionador individual, por brillante que sea (Page, 2007). Reemplazar ese proceso por un único tomador de decisiones no perfeccionaría la sociedad: congelaría precisamente lo que le permite adaptarse y eliminaría la redundancia que la vuelve robusta frente al error.
El papel honesto de la inteligencia artificial en una sociedad viable
De todo esto se desprende un papel honesto—y en absoluto modesto—para la inteligencia artificial, venga de donde venga de general, por muy general que pueda llegar a ser.
Puede ayudarnos a ver patrones que se nos escapan, simular escenarios antes de comprometernos con ellos, refinar decisiones concretas y tomarlas con menos ceguera. Lo que no puede hacer es sustituir el proceso colectivo, falible y autocorrectivo mediante el cual aprendemos como sociedad.
Si la inteligencia es un sistema viable de sistemas, también lo es una sociedad; y una inteligencia artificial, por capaz que sea, es un componente más dentro de ese sistema, nunca su cúspide.
Referencias
ARC Prize Foundation. (2026). ARC-AGI-3: Un nuevo desafío para la inteligencia agentic de frontera [Informe técnico]. arXiv. arcprize.org/arc-agi/3
Arthur, W. B. (2021). Foundations of complexity economics. Nature Reviews Physics, 3(2), 136–145.
Ashby, W. R. (1956). An introduction to cybernetics. Chapman & Hall.
Beer, S. (1981). Brain of the firm (2.ª ed.). Wiley.
Beer, S. (1985). Diagnosing the system for organizations. Wiley.
Carroll, J. B. (1993). Human cognitive abilities: A survey of factor-analytic studies. Cambridge University Press.
Chollet, F. (2019). On the measure of intelligence (arXiv:1911.01547) [preprint]. arXiv.
Godfrey-Smith, P. (2016). Other minds: The octopus, the sea, and the deep origins of consciousness. Farrar, Straus and Giroux.
Hayek, F. A. (1945). The use of knowledge in society. The American Economic Review, 35(4), 519–530.
Holland, J. H. (1995). Hidden order: How adaptation builds complexity. Addison-Wesley.
Hunt, G. R. (1996). Fabricación y uso de herramientas tipo anzuelo por cuervos de Nueva Caledonia. Nature, 379(6562), 249–251.
Legg, S., & Hutter, M. (2007). Universal intelligence: A definition of machine intelligence. Minds and Machines, 17(4), 391–444.
McGrew, K. S. (2009). Teoría CHC y el proyecto de capacidades cognitivas humanas: apoyándose en los hombros de los gigantes de la investigación en inteligencia psicométrica. Intelligence, 37(1), 1–10.
Minsky, M. (1986). The society of mind. Simon & Schuster.
Page, S. E. (2007). The difference: How the power of diversity creates better groups, firms, schools, and societies. Princeton University Press.
Seeley, T. D. (2010). Honeybee democracy. Princeton University Press.
Spearman, C. (1904). «General intelligence,» objectively determined and measured. The American Journal of Psychology, 15(2), 201–292.
Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460.
Wang, P. (2019). On defining artificial intelligence. Journal of Artificial General Intelligence, 10(2), 1–37.
Explora la serie completa de la Neuraxon Intelligence Academy
Este es el Volumen 11 de la Neuraxon Intelligence Academy del equipo científico de Qubic. Si recién te sumas, explora la serie completa para construir una comprensión completa de la ciencia detrás de Neuraxon, Aigarth y el enfoque de Qubic para una inteligencia artificial descentralizada e inspirada en el cerebro:
NIA Volumen 1: Por qué la inteligencia no se computa en pasos, sino en el tiempo — Explora por qué la inteligencia biológica opera en tiempo continuo en lugar de pasos discretos de computación como los LLM tradicionales.
NIA Volumen 2: Dinámicas ternarias como modelo de inteligencia viviente — Explica las dinámicas ternarias y por qué la lógica de tres estados (excitatoria, neutral e inhibitoria) importa para modelar sistemas vivientes.
NIA Volumen 3: Neuromodulación y IA inspirada en el cerebro — Cubre la neuromodulación y cómo la señalización química del cerebro (dopamina, serotonina, acetilcolina, norepinefrina) inspira la arquitectura de Neuraxon.
NIA Volumen 4: Redes neuronales en IA y neurociencia — Una comparación profunda entre redes neuronales biológicas, redes neuronales artificiales y el enfoque de «tercer camino» de Neuraxon.
NIA Volumen 5: Astrocitos y IA inspirada en el cerebro — Cómo la compuerta astrocítica transforma la plasticidad de las redes neuronales a través del marco AGMP en Neuraxon.
NIA Volumen 6: Máquinas conscientes vs. organismos inteligentes: la conciencia de la IA explicada — Explora la conciencia en IA a través del lente de la Teoría del Espacio de Trabajo Global, la Teoría de la Información Integrada y la codificación predictiva.
NIA Volumen 7: El Juego de la Vida de Conway, vida artificial y ecosistemas digitales — La ciencia detrás de Qubic, Aigarth y la complejidad emergente y la criticidad autoorganizada de Neuraxon.
NIA Volumen 8: Criticidad cerebral y la razón de ramificación en redes neuronales y artificiales — Por qué una razón de ramificación cercana a 1 y la criticidad autoorganizada son principios de diseño inspirados en la biología en Neuraxon.
NIA Volumen 9: Los orígenes del factor g: de la educación y la neurociencia a la inteligencia artificial — Explora los orígenes del factor g a través de la educación, la neurociencia y la IA.
NIA Volumen 10: ¿Cómo medimos la inteligencia de una máquina? El factor g, ARC-AGI y el futuro de la evaluación de la IA — El factor g, el benchmark ARC-AGI de François Chollet, la contaminación de datos en la evaluación de LLM y por qué la eficiencia en la adquisición de habilidades es la verdadera prueba de la inteligencia.
Qubic es una red descentralizada y de código abierto. Para saber más, visita qubic.org. Únete a la conversación en X, Discord y Telegram. Nada en este sitio debe interpretarse como asesoramiento de inversión, legal o financiero.