Многие проекты ИИ-агентов сосредоточены на том, что агенты могут делать.
Мало кто сосредоточивается на том, что агентам следует разрешать делать.
Это различие имеет значение.
Представьте ИИ-портфельного менеджера с разрешением исполнять сделки.
Без четких правил система становится трудно поддающейся аудиту, управлению и доверию.
Протокол Newton подходит к этому иначе.
Его политика позволяет пользователям задавать границы до того, как выполнение произойдет.
В итоге получается архитектура, в которой автономность и контроль могут сосуществовать.
Это ощущается все более актуальным, поскольку ИИ-агенты выходят за рамки чат-интерфейсов и начинают взаимодействовать с реальными экономическими системами.
Вызов больше не в том, чтобы создавать автономное программное обеспечение.
Вызов теперь в том, чтобы гарантировать предсказуемое поведение автономного программного обеспечения.
Возможно, это станет одной из определяющих инфраструктурных проблем экономики ИИ.