Когда речь заходит об автономных системах, под почти каждым разговором молча лежит одно предположение.
Больше автоматизации всегда должно быть лучше.
Это привлекательная идея.
Если программное обеспечение может заменить рутинную работу, сократить задержки и устранить человеческие ошибки, почему бы нам не автоматизировать как можно больше?
Долгое время я принимал эту идею, не ставя под сомнение.
Затем я потратил больше времени на размышления о Протоколе Ньютона.
Удивительно, но я не пришёл к выводу, что автоматизацию следует делать безграничной.
Я вышел из размышлений с вопросом: а не в том ли настоящая сложность — определить её границы?
Автономные агенты станут более способными.
Похоже, это неизбежно.
Но одной лишь способности недостаточно, чтобы понять, где должна лежать ответственность.
Бывают моменты, когда важна скорость.
Есть и моменты, когда замедление, проверка контекста или уважение к политике становится ценнее, чем немедленное выполнение.
Это и есть та перспектива, которая показалась мне интересной.
Протокол Newton не заставляет меня думать о том, как убрать людей из каждого рабочего процесса.
Это заставляет меня думать о том, какие части рабочего процесса должны оставаться защищёнными чёткими правилами, даже когда ИИ становится всё более совершенным.
Возможно, зрелая инфраструктура измеряется не тем, сколько она автоматизирует.
Возможно, это измеряется тем, насколько хорошо она знает, где автоматизация должна остановиться.
Эта разница ощущается всё более важной по мере того, как ИИ приближается к принятию финансовых решений.
Технологии обычно прославляют то, что становится возможным.
Инфраструктура часто создаётся, чтобы определить, что должно оставаться допустимым.
Может быть, именно такую более тихую роль пытается сыграть протокол Newton.
Не ускорять каждое действие.
Но важно гарантировать, чтобы ускорение никогда не происходило за счёт подотчётности.
