@NewtonProtocol $NEWT #newt Все говорят о том, как сделать автономных агентов более интеллектуальными.
Мы сравниваем модели, способность рассуждать, скорость и качество прогнозов так, словно интеллект — единственное, что отделяет сегодняшнюю автоматизацию от инфраструктуры завтрашнего дня.
Я не думаю, что это вся история.
Пока я размышлял(а) о протоколе Newton, меня все время отвлекал другой вопрос — он не давал сосредоточиться на производительности модели.
Что происходит между решением и его выполнением?
Это удивительно короткое окно времени.
Иногда это всего лишь секунды.
Иногда — миллисекунды.
Но именно в этом крошечном окне контекст может незаметно измениться.
Ликвидность смещается.
Разрешения изменяются.
Политики меняются.
Появляется новая информация.
Агент может принять совершенно рациональное решение на основе информации, которая у него была в начале рабочего процесса, и все же в итоге выполнить неверное действие, потому что реальность изменилась до момента исполнения.
Эта мысль заставила меня по-новому осмыслить саму автоматизацию.
Возможно, интеллект — не тот слой, которому стоит уделять больше всего внимания.
Возможно, хрупкая часть автономных систем заключается в предположении, что среда остается стабильной, пока решения движутся к исполнению.
Протокол Newton дал мне другой способ взглянуть на это допущение.
Вместо того чтобы рассматривать исполнение как автоматическое следствие предыдущего решения, архитектура кажется спроектированной так, чтобы уважать тот факт, что контекст никогда не бывает застывшим.
Протокол спрашивает не только о том, было ли действие корректным, когда его планировали.
Это побуждает нас задуматься о том, остается ли это по-прежнему верным, когда наконец происходит исполнение.
Эта разница звучит незначительно.
Я не думаю, что это так.
Поскольку автономные системы берут на себя ответственность за все более крупные финансовые решения, цена устаревших допущений будет продолжать расти.
Возможно, следующее поколение инфраструктуры будет определяться не тем, как быстро ИИ может принимать решения.
Возможно, это будет определяться тем, насколько тщательно системы подтверждают, что решение по-прежнему относится к текущему моменту, прежде чем позволить ему стать постоянным.
Об этом я подумал и не мог избавиться от этой мысли после изучения этого фрагмента протокола Newton.
Возможно, будущее надежной автоматизации — не в более быстром интеллекте.
Возможно, это непрерывная осведомленность.
