Академия Neuraxon Intelligence — Том 11

От #Qubic Научной группы

Кратко: Существует немного выражений, которые так часто повторяются и так мало определяются, как «искусственный общий интеллект». Этот том рассматривает, почему каждое #AGI определение, предлагаемое сегодня, говорит о разном, почему узкий #AI , который превосходит людей, никогда не ощущался как общий интеллект, и почему самый полезный для нас ориентир заключается в том, что интеллект — это не показатель, а жизнеспособная система систем: принцип, который направляет нашу работу над #Neuraxon и #aigarth .

Немного найдётся выражений, которые так часто повторяют и так мало определяют, как «искусственный общий интеллект». Мы используем его так, будто это граница, которую некая система пересечёт в конкретный день. Но когда мы пытаемся точно определить, что находится по ту сторону, консенсус исчезает.

Почему в каждой лаборатории своё определение AGI

Каждая лаборатория и компания предлагает своё собственное определение, и каждое определение похоже на те возможности, которыми эта лаборатория уже владеет или обещает овладеть в ближайшем будущем.

Для одних общий интеллект — это равенство человеку в любой задаче.

Для других — превосходить человека в экономически ценной работе.

Для других — достигать большинства когнитивных задач.

Три формулировки звучат разумно. Все три говорят о разном, и ни одна не выдерживает серьёзной критики.

Это не отвлечённая придирка. Устав OpenAI определяет AGI как высокоавтономные системы, превосходящие людей в большинстве экономически ценной работы, тогда как другие ведущие лаборатории связывают это же слово с равенством с людьми по большинству когнитивных задач. Как отмечали независимые анализы этих конкурирующих определений, когда один и тот же термин растягивают под экономические интересы каждой организации, расхождение по поводу того, «достигли ли мы AGI», становится неизбежным: спорящие смотрят не на одну и ту же финишную черту.

Академические попытки определить машинный интеллект без антропоцентризма

Академические исследования пытались уйти от антропоцентризма. Легг и Хаттер (2007) предложили понимать интеллект как способность агента достигать целей в широком разнообразии сред — элегантное определение именно потому, что оно не связывает интеллект с похожестью на человека.

Ван (2019) сместил акцент в сторону адаптации и определил её как способность системы справляться с недостатком знаний и ресурсов.

Шолле (2019) перевернул вопрос: важно не накопленное мастерство, а эффективность, с которой система приобретает новые навыки. Каждое из этих предложений строже любого корпоративного лозунга, и каждое по-прежнему оставляет основную проблему открытой. Не существует общепринятого стандарта, позволяющего сказать, когда машина уже достигла цели.

Определение AGI через исключение: чем не является общий интеллект

Возможно, проблема в том, что мы ищем положительное определение, когда ясно понимаем только отрицательное. Мы с высокой степенью уверенности знаем, чем не является общий интеллект.

Карманный калькулятор превосходит любого человека-математика в арифметике, и никому не приходит в голову назвать его разумным.

Шахматный движок без труда побеждает лучшего игрока на планете, и мы считаем его, в лучшем случае, чрезвычайно изощрённым инструментом.

Автоматический переводчик обрабатывает десятки языков, которые ни один полиглот не освоил бы за несколько жизней.

Во всех этих случаях есть сверхчеловеческая производительность и, одновременно, полное отсутствие общности.

Узкая производительность, превосходящая человеческую, существует уже десятилетия и никогда не казалась нам интеллектом. Определение через исключение оказывается, парадоксальным образом, более честным: общий интеллект — это не сумма множества узких компетенций, какими бы впечатляющими ни были каждая из них.

Экономический тест Тьюринга: измерять то, что делает интеллект

Перед лицом этого концептуального тумана некоторые голоса из самой индустрии предложили более приземлённый критерий — экономическую версию старого теста Тьюринга (1950).

Вместо спора о том, что такое интеллект, давайте предложим измерять то, что он делает.

Эта идея переносит вопрос из философской области в профессиональную. Система достигла бы важной вехи в тот день, когда смогла бы выполнять реальную работу, быть нанятой для неё и получать за неё оплату, и никто вокруг не обнаружил бы, что она не человек. Тогда уже не имело бы значения, «понимает» ли она или «рассуждает» в каком-то глубоком смысле. Важно было бы, сохраняет ли она работоспособность достаточно долго, чтобы стать неотличимой от профессионала. Достоинство этого предложения в том, что его можно проверить. Но у него есть и ограничение: оно снова смешивает экономическую способность с интеллектом и опирается на социальный вердикт, а не на свойство системы. Машина могла бы пройти этот тест и всё же оставаться, по существу, хрупкой вне сценария, к которому она была подготовлена.

Чему научила нас научная фантастика об интеллекте машин (и почему она вводит в заблуждение)

Значительная часть нашей интуиции об этих машинах приходит не из науки, а из художественной литературы, и художественная литература оставила нам несовместимые предположения.

В «Особом мнении» интеллект — это предвосхищение: система, которая предсказывает, что должно произойти, прежде чем это произойдёт, вплоть до того, что действует в отношении будущего, которого ещё не существует.

В «Я, робот» интеллект — это послушание правилам: существа, управляемые явными законами, которые именно из-за своей жёсткости в итоге порождают последствия, которых никто не предвидел.

В «2001» интеллект — это непрозрачность: машина, которая безупречно рассуждает и чьи истинные мотивы до самого конца остаются непостижимыми.

В более поздних историях, таких как «Ex Machina», решающим испытанием становится уже не решение проблем, а манипуляция наблюдателем; а в «Her» интеллект измеряется интимностью и привязанностью, которые он способен пробудить.

Каждая история закрепляет у нас в голове своё определение того, что значит быть умным, предсказывать, подчиняться, скрывать, соблазнять, и мы незаметно тащим эти определения за собой, когда судим о реальных системах. Кино не дало нам теории интеллекта. Оно дало нам набор ожиданий, противоречащих друг другу.

Интеллект в природе: градиент, а не переключатель

Если мы посмотрим на природу, картина станет ещё менее чёткой, и на то есть веские причины. Интеллект не появляется в живом мире как переключатель, который включается или выключается, а как градиент с очень разнообразными формами.

Новокаледонская ворона изготавливает инструменты, с помощью которых извлекает пищу, и соединяет несколько шагов, чтобы решить проблему, с которой никогда прежде не сталкивалась (Hunt, 1996).

Осьминог распределяет значительную часть своей нервной системы по щупальцам и решает пространственные задачи с такой телесной организацией, которая настолько отличается от нашей, что для её описания трудно найти общий язык (Godfrey-Smith, 2016).

Колония пчёл выбирает место для нового гнезда через коллективный процесс, который ни один отдельный индивид не смог бы осуществить, и делает это с заметной надёжностью (Seeley, 2010).

Ни один из этих интеллектов не сводится к другим, и ни один не является «менее» интеллектом только потому, что не похож на человеческий. Биология учит нас, что общность не равна единой шкале, на которой одни стоят выше других, а представляет собой разные способы сталкиваться с изменяющимися средами при ограниченных ресурсах.

Человеческий интеллект — это архитектура, а не оценка

Этот урок должен заставить нас быть осторожными и с самими собой.

Более века мы пытаемся свести человеческий интеллект к числу. С тех пор как Спирмен (1904) описал общий фактор, который, как казалось, влияет почти на все когнитивные тесты, коэффициент интеллекта стал удобным итогом того, что не поддаётся такому итогу. И за этот же век мы убедились, как мало это число охватывает. Человек с высоким баллом не обязательно лучше всех урегулирует конфликт, истолкует неоднозначную ситуацию или освоит новую профессию под давлением. Данные стабильны; жизнь, которую они якобы суммируют, — нет. Однако было бы ошибкой перейти от избытка к пустоте и сделать вывод, будто интеллект лишён структуры.

Десятилетия психометрических исследований, синтезированные в модели Каттелла, Хорна и Кэрролла (Carroll, 1993; McGrew, 2009), указывают на нечто более интересное: человеческий интеллект организован иерархически. На вершине находится общий фактор, который фильтруется почти во всё, что мы делаем. Ниже — несколько широких способностей: текучее мышление, кристаллизованные знания, рабочая память, скорость обработки. Ещё ниже — десятки специфических способностей. Это не одинокое число и не архипелаг разрозненных талантов. Это архитектура. И стоит сохранить это слово — архитектура, — потому что оно будет ключом ко всему, что последует дальше.

(Мы проследили истоки этого общего фактора в образовании, нейронауке и ИИ в NIA Том 9: Истоки фактора g и рассмотрели, как он распадается при применении к машинам в NIA Том 10: Как измерить интеллект машины?.)

Почему бенчмарки AGI терпят неудачу: проблема замкнутых миров

Если интеллект — это архитектура, а не оценка, тогда тесты, с помощью которых мы его оцениваем, имеют колоссальное значение. Здесь кроется один из великих самообманов последних лет.

Мы праздновали, что системы бьют рекорд за рекордом на стандартизированных тестах, не замечая, что почти у всех одна и та же изъян: они измеряют результативность в замкнутых мирах. Вопросы с известным ответом, задачи с фиксированным форматом, проблемы, которые кто-то уже решил раньше. Когда статический тест становится популярным, он, кроме того, становится уязвимым: достаточно сгенерировать тысячи попыток параллельно или обучиться на похожих задачах, чтобы раздуть балл без какой-либо настоящей генерализации.

Но интеллект, который нас интересует, проявляется именно там, где мир открыт: когда нужно исследовать неизвестную среду, на лету построить модель её работы, вывести, какова цель, и выстраивать действия к ней, корректируя курс, когда условия меняются.

Вот почему новые поколения интерактивных тестов, таких как ARC-AGI-3 (ARC Prize Foundation, 2026; Chollet, 2019), столь показательны. Они не предлагают головоломку и не ждут ответа. Они помещают систему внутрь среды, правила которой открываются только в действии, ход за ходом, без предварительных инструкций. Они оценивают не то, сколько система знает, а то, насколько эффективно она учится чему-то действительно новому. Контраст показателен: в своих ранних версиях люди решают почти все эти задачи, тогда как передовые модели едва затрагивают минимальную их долю. Это различие природы, а не степени, и оно меняет весь разговор.

От «Он умён?» к «Он жизнеспособен?» : лучший вопрос Стаффорда Бира

Дойдя до этого места, стоит изменить вопрос.

Слишком долго мы спрашивали, является ли машина «умной».

Кибернетик Стаффорд Бир много десятилетий назад предложил более плодотворный вопрос для сложных систем: не умны ли они, а жизнеспособны ли они (Beer, 1981, 1985). Жизнеспособная система — это такая, которая способна поддерживать себя, сохранять свою идентичность и оставаться управляемой, пока её среда непрерывно меняется. Бир утверждал, что любая система, выживающая в сложном мире — организм, компания, государство, — должна содержать определённые незаменимые функции: узлы, выполняющие работу, механизмы, координирующие их, инстанции, регулирующие внутренние ресурсы, способность сканировать внешнюю среду и предвидеть изменения, а также ядро, сохраняющее цель целого. В его модели решающим является то, что эти функции повторяются на разных масштабах, как матрёшки: каждая жизнеспособная часть содержит жизнеспособные части и одновременно является частью жизнеспособного целого. В таком прочтении интеллект перестаёт быть свойством, которым объект обладает, и становится свойством, которое система поддерживает.

Общий интеллект как сеть сетей

По нашему мнению, это самый ценный ориентир, который у нас есть.

Если общий интеллект — это не сумма узких компетенций, не число и не рекорд в замкнутом мире, а жизнеспособность системы, которая самоорганизуется на разных масштабах, тогда маловероятно, что он явится в виде одной гигантской модели, которая однажды пересечёт невидимую черту. Гораздо вероятнее, что он возникнет из взаимодействия множества частей: агентов, которые специализируются и координируются, памяти, которая сохраняется, модулей, которые оценивают и исправляют, сетей, содержащих другие сети. Эта идея не нова; Мэнски (1986) уже представлял разум как общество простых процессов, ни один из которых не является умным сам по себе, но организация которых порождает нечто, что таковым было. Общность тогда стала бы коллективным, а не индивидуальным феноменом, чем-то, что появляется между компонентами, а не внутри какого-либо из них. Порог, который мы так стремимся найти, не существует как линия. Он существует, если существует вообще, как момент, когда сеть сетей начинает вести себя как единое целое.

Как Neuraxon и Aigarth стремятся к общему интеллекту

Именно эта интуиция направляет нашу работу. Если интеллект — это архитектура, стоит изучать архитектуры; а если он возникает из сетей, которые самоорганизуются на разных масштабах, стоит строить в виде вычислительной симуляции сети простых единиц, способных координироваться, запоминать, оценивать и планировать.

Именно этой логике мы следуем в работе над Aigarth и Neuraxon: не модель, имитирующая человеческий язык извне, а система систем, вдохновлённая принципами, благодаря которым нервная ткань по-своему решает задачу адаптации к миру, который никогда не перестаёт меняться. Тем самым мы не утверждаем, что приближаемся к какой-либо форме сознания или к какой-либо предельной тайне разума. Мы утверждаем, более скромно и в то же время более амбициозно, что путь к действительно общему интеллекту лежит через понимание и моделирование того, как множество малых частей, должным образом организованных, начинают поддерживать нечто, чего ни одна из них сама по себе не содержит.

(Этот «третий путь» между биологическими и искусственными сетями является темой NIA Том 4: Нейронные сети в ИИ и нейронауке, а возникновение сложности из простых локальных правил проходит через NIA Том 7: Игра жизни Конвея, искусственная жизнь и цифровые экосистемы.)

Почему единый суперинтеллект не может заменить общество

Однако стоит противостоять ещё одному искушению, самому соблазнительному из всех.

Предположим на мгновение, что этот путь удался и у нас была бы общая, мощная и надёжная система. Было бы естественно представить её как высшую инстанцию, оракул, способный принимать за нас решения, которые сегодня нас перегружают. Но этот образ, каким бы привлекательным он ни был, основан на ошибке, не имеющей ничего общего с мощностью машины, а связанной с природой знания.

Строго говоря, нет никакого высшего знания, где-то хранящегося и ожидающего достаточно мощный процессор. Хайек (1945) сформулировал это с такой ясностью, которой время не опровергло: знание, необходимое обществу для функционирования, не сосредоточено ни в одном уме, а рассеяно среди миллионов людей, во многом неявно, привязано к обстоятельствам места и момента, которые никогда не становятся полностью записанными. Это знание нельзя централизовать, потому что оно не существует в передаваемой форме; оно создаётся и пересматривается в самом действии тех, кто им обладает.

Кибернетика пришла к тому же выводу другим путём. Закон необходимого разнообразия Эшби (1956), на котором Бёр построил значительную часть своей мысли, утверждает, что только разнообразие может поглотить разнообразие: никакой единый контролёр не может сравняться с разнообразием состояний системы, более сложной, чем он сам. Общество в каждый момент порождает гораздо больше возможных ситуаций, чем любой центр мог бы наблюдать и регулировать. Поместить единственный интеллект на вершину этой системы означало бы не высшую степень жизнеспособности, а её отрицание: единую точку контроля, сталкивающуюся с разнообразием, которое по определению превосходит её, — ровно противоположное рекурсивной и распределённой архитектуре, делающей целое жизнеспособным.

Есть, кроме того, препятствие, которое не устраняет никакой рост вычислительной мощности. Человеческие системы — это не замкнутые механизмы, которые можно решить извне; это адаптивные порядки, в которых агенты учатся, подражают, конкурируют, ошибаются и реагируют на то, что о них говорят (Holland, 1995; Arthur, 2021). Эта рефлексивность имеет неприятное следствие: любое достаточно влиятельное предсказание или правило изменяет поведение, которое оно должно было описывать. Метрика, ставшая целью, перестаёт измерять то, что измеряла; прогноз, широко распространённый, превращается в пророчество, которое либо сбывается, либо опровергается само собой. Не существует устойчивой внешней точки наблюдения, с которой можно было бы вычислить оптимум, потому что сам акт вмешательства смещает цель. Неопределённость, окружающая эти системы, — это не нехватка данных, которую можно устранить дополнительной информацией; она структурна. Их будущее не вычисляется: оно создаётся.

И даже если бы знание было полным и система не была бы рефлексивной, решающим оставалось бы другое: цели находятся в споре. Плюралистическое общество не имеет единой правильной целевой функции, которую оптимизатор мог бы максимизировать от его имени. Несогласие, проба, ошибка и коррекция — не недостатки социального процесса, а сам механизм, посредством которого общество обнаруживает и перенастраивает собственные ответы. При правильных условиях разнообразие точек зрения решает проблемы лучше, чем любой отдельный решатель, каким бы блестящим он ни был (Page, 2007). Заменить этот процесс одним центром принятия решений означало бы не усовершенствовать общество, а заморозить именно то, что позволяет ему адаптироваться, и устранить избыточность, делающую его устойчивым к ошибкам.

Честная роль искусственного интеллекта в жизнеспособном обществе

Из всего этого следует честная и вовсе не скромная роль искусственного интеллекта, каким бы общим он ни стал.

Он может помочь нам увидеть ускользающие от нас закономерности, смоделировать сценарии до того, как мы примем обязательства, уточнить конкретные решения и принимать их с меньшей слепотой. Но он не может заменить коллективный, ошибающийся и самокорректирующийся процесс, через который мы учимся как общество.

Если интеллект — это жизнеспособная система систем, то и общество тоже; а искусственный интеллект, каким бы способным он ни был, — лишь ещё один компонент внутри этой системы, но никогда не её вершина.

Ссылки

• ARC Prize Foundation. (2026). ARC-AGI-3: новая задача для передового агентного интеллекта [технический отчёт]. arXiv. arcprize.org/arc-agi/3

• Arthur, W. B. (2021). Foundations of complexity economics. Nature Reviews Physics, 3(2), 136–145.

• Ashby, W. R. (1956). An introduction to cybernetics. Chapman & Hall.

• Beer, S. (1981). Brain of the firm (2nd ed.). Wiley.

• Beer, S. (1985). Diagnosing the system for organizations. Wiley.

• Carroll, J. B. (1993). Human cognitive abilities: A survey of factor-analytic studies. Cambridge University Press.

• Chollet, F. (2019). On the measure of intelligence (arXiv:1911.01547) [preprint]. arXiv.

• Godfrey-Smith, P. (2016). Other minds: The octopus, the sea, and the deep origins of consciousness. Farrar, Straus and Giroux.

• Hayek, F. A. (1945). The use of knowledge in society. The American Economic Review, 35(4), 519–530.

• Holland, J. H. (1995). Hidden order: How adaptation builds complexity. Addison-Wesley.

• Hunt, G. R. (1996). Manufacture and use of hook-tools by New Caledonian crows. Nature, 379(6562), 249–251.

• Legg, S., & Hutter, M. (2007). Universal intelligence: A definition of machine intelligence. Minds and Machines, 17(4), 391–444.

• McGrew, K. S. (2009). CHC theory and the human cognitive abilities project: Standing on the shoulders of the giants of psychometric intelligence research. Intelligence, 37(1), 1–10.

• Minsky, M. (1986). The society of mind. Simon & Schuster.

• Page, S. E. (2007). The difference: How the power of diversity creates better groups, firms, schools, and societies. Princeton University Press.

• Seeley, T. D. (2010). Honeybee democracy. Princeton University Press.

• Spearman, C. (1904). «General intelligence,» objectively determined and measured. The American Journal of Psychology, 15(2), 201–292.

• Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460.

• Wang, P. (2019). On defining artificial intelligence. Journal of Artificial General Intelligence, 10(2), 1–37.

Изучите всю серию Neuraxon Intelligence Academy

Это том 11 Neuraxon Intelligence Academy от научной команды Qubic. Если вы только присоединились, изучите всю серию, чтобы полностью понять науку, лежащую в основе подхода Neuraxon, Aigarth и Qubic к вдохновлённому мозгом децентрализованному искусственному интеллекту:

• NIA Том 1: Почему интеллект вычисляется не шагами, а во времени — Исследует, почему биологический интеллект работает в непрерывном времени, а не в дискретных вычислительных шагах, как традиционные LLM.

• NIA Том 2: Тройственная динамика как модель живого интеллекта — Объясняет тройственную динамику и почему логика трёх состояний (возбуждающее, нейтральное, тормозящее) важна для моделирования живых систем.

• NIA Том 3: Нейромодуляция и ИИ, вдохновлённый мозгом — Рассматривает нейромодуляцию и то, как химическая передача сигналов в мозге (дофамин, серотонин, ацетилхолин, норадреналин) вдохновляет архитектуру Neuraxon.

• NIA Том 4: Нейронные сети в ИИ и нейронауке — Глубокое сравнение биологических нейронных сетей, искусственных нейронных сетей и третьего пути Neuraxon.

• NIA Том 5: Астроциты и ИИ, вдохновлённый мозгом — Как астроцитарное гейтингование преобразует пластичность нейронных сетей через фреймворк AGMP в Neuraxon.

• NIA Том 6: Сознательные машины против разумных организмов: объяснение сознания ИИ — Исследует сознание ИИ через призму теории глобального рабочего пространства, теории интегрированной информации и предиктивного кодирования.

• NIA Том 7: Игра жизни Конвея, искусственная жизнь и цифровые экосистемы — Наука, лежащая в основе эмерджентной сложности и самоорганизованной критичности Qubic, Aigarth и Neuraxon.

• NIA Том 8: Критичность мозга и коэффициент ветвления в нейронных и искусственных сетях — Почему коэффициент ветвления, близкий к 1, и самоорганизованная критичность являются биовдохновлёнными принципами проектирования в Neuraxon.

• NIA Том 9: Истоки фактора g: от образования и нейронауки к искусственному интеллекту — Исследует происхождение фактора g в образовании, нейронауке и ИИ.

• NIA Том 10: Как измерить интеллект машины? Фактор g, ARC-AGI и будущее оценки ИИ — Фактор g, бенчмарк ARC-AGI Франсуа Шолле, загрязнение данных в оценке LLM и почему истинной проверкой интеллекта является эффективность приобретения навыков.

Qubic — децентрализованная сеть с открытым исходным кодом. Чтобы узнать больше, посетите qubic.org. Присоединяйтесь к обсуждению в X, Discord и Telegram. Ничто на этом сайте не следует рассматривать как инвестиционный, юридический или финансовый совет.