Сегодня рынок ощущался странно спокойным, одним из тех полудней, когда ничего не движется и ты начинаешь щёлкать по случайным вкладкам, просто чтобы чувствовать себя продуктивно. Я вообще не искал проект. Я наполовину читал тред про то, как AI-агенты управляют кошельками — обычные споры о том, будут ли боты в DeFi. И в ответах постоянно всплывал Newton Protocol.
И я начал смотреть на это из любопытства, в основном ожидая очередной питч «ИИ + разрешения», где вся ценность сводится к выключателю-«убийце». Остановите бота, прежде чем он сделает что-нибудь глупое. Это ведь примерно та ментальная модель, которая есть у всех, верно — разрешения как поводок.
Но чем больше я читаю, тем больше замечаю нечто, что не совсем совпадает с этим предположением. Это не столько ограничивает то, что ИИ может делать. Это ограничивает даже то, что ИИ вообще разрешено рассматривать в качестве варианта. Небольшая разница на бумаге, но на практике — довольно большая.
Большинство людей думают, что системы разрешений работают как охранник: ИИ решает, а затем правило проверяет, разрешено ли это решение, — и либо пропускает, либо блокирует. А Ньютон делает нечто иное: это происходит до всего этого. Области (scope) формируют пространство решений еще до того, как модель начнет над этим рассуждать, так что ИИ даже «не испытывает соблазна» выполнить действия вне своей полосы. Его не останавливают — он просто не видит дверь.
И да, это довольно изящно. Меньше пограничных случаев, когда умная модель находит хитроумный обход того, чего ей технически делать не следовало, потому что она вообще не моделировала этот путь.
Но вот что меня немного беспокоит. Если вы формируете то, о чем ИИ вообще может думать, вы также формируете то, на что он не сможет отреагировать. Рынки не всегда ломаются так, как ваша область разрешений заранее предполагала. Что будет, когда «правильное» решение оказывается чуть за границей, которую кто-то провел три месяца назад? Система просто… пропустит это? Я не уверен, что эта логика действительно хорошо выдерживает быстрый, неприятный обвал рынка — тот случай, когда правильное действие не было предусмотрено ни в каких сценариях.
Похоже, это особенно важно для тех, кто позволяет агентам трогать реальные капиталы; для сценариев только для чтения или консультационных — возможно, меньше, потому что «слепота» к некоторым действиям там является фичей, а не багом. По таймингу я бы предположил, что сильнее всего это проявляется ровно тогда, когда становится хаотично — а раздражающе совпадает именно с тем моментом, когда границы разрешений проверяются на прочность.
В общем. У меня пока нет четкого вывода — я все еще размышляю, безопаснее ли сужать восприятие, чем ограничивать действия, или просто это выглядит безопаснее. Рынок все еще стоит на месте — пойду-ка посмотрю графики, которые ничего не делают.