Я читал про авторизационный слой Ньютона, и заметил кое-что, что я почти проигнорировал.
Это была не другая политика.
Это то, что происходит после того, как политика принимает решение.
Сначала я не придал этому большого значения.
Транзакцию одобряют или отклоняют.
Похоже, это был конец истории.
Но после того как я некоторое время обдумывал это, я снова и снова возвращался к одному вопросу.
Если ИИ-агенту разрешено распоряжаться моими деньгами, откуда мне знать, что он действительно соблюдал правила перед тем, как действовать?
Похоже на маленькую деталь.
Я так не думаю.
Представьте ИИ-агента, который управляет портфелем в DeFi.
Политика говорит, что она может перебалансировать позиции только если портфель остается ниже определенного порога риска.
Агент решает совершить сделку.
Позже кто-то задает простой вопрос.
Как мы знаем, что проверка риска действительно произошла до выполнения транзакции?
Сделка, вероятно, оказалась успешной.
Это не то же самое, что доказать, что он следовал правилам.
Вот с чего началась смена моей точки зрения.
Я потратил большую часть времени на то, чтобы думать именно о самих политиках.
Какие условия они могут соблюдать?
Насколько гибкими они смогут стать?
Сколько контроля они могут дать пользователям?
Это важные вопросы.
Но, думаю, я смотрел не на тот слой.
Политика может определять решение.
Это не автоматически делает это решение заслуживающим доверия.
Архитектура Ньютон добавляет еще один шаг через свою операторскую сеть. Операторы оценивают политики, создают криптографические аттестации с использованием BLS-подписей, а эти аттестации могут быть проверены смарт-контрактами до выполнения. Цель не просто в том, чтобы сказать, что транзакция разрешена. Цель — предоставить доказательства того, что необходимые проверки действительно были завершены до того, как что-либо начнет двигаться.
Это был тот элемент, который я раньше не смог связать воедино.
Большинство разговоров об ИИ в финансах сосредоточены на возможностях.
Агент может торговать быстрее?
Может ли он управлять портфелем?
Он может автоматизировать сложные стратегии?
Эти вопросы имеют значение.
Но, думаю, доверие становится намного более крупной проблемой, как только агенты начнут управлять реальными активами.
Системе нужны не просто хорошие решения.
Ему нужны решения, которые другие системы могут проверить, не полагаясь на чье-то слово.
Но есть компромисс.
Чем сильнее становится этот слой верификации, тем важнее становятся операторская сеть и политики, стоящие за ней.
Криптографическое доказательство может показать, что политика была соблюдена.
Она не может гарантировать, что политика изначально была написана хорошо.
Доверие не исчезает.
Это смещается к качеству правил, к тому, какие операторы формируют аттестации, и к управлению, которое делает эти правила надежными.
Это, вероятно, был мой самый главный вывод.
Я начал читать про авторизацию.
Я закончил размышлять о том, может ли доказательство быть важнее самого решения.
Потому что если автономные системы будут двигать деньги от нашего имени, просто сказать «политика это разрешила» вероятно не будет достаточно.
Нам нужно будет знать, что сама авторизация может быть проверена.