Задолго до появления программного обеспечения учреждения решали проблему делегирования с помощью бумажной волокиты. Доверенности, мандаты, лимиты на траты — все это грубые, но долговечные способы позволить кому-то действовать от вашего имени, не отдавая всего безвозвратно. Проблема принципал—агент так и не была устранена; она была ограничена.
Автономность машин возрождает эту старую проблему в более жесткой форме. Агент ИИ, действующий с вашими ключами, — это не сотрудник, которого вы можете допросить, и не доверительный управляющий, на которого вы можете подать в суд. Это процесс. Единственно значимые контроли — те, что обеспечиваются до выполнения, потому что средства правовой защиты после выполнения практически не существуют. Другими словами, делегирование должно стать техническим примитивом, а не юридическим.
Протокол Newton стоит изучить именно на этой границе. Структурирование агентской активности внутри роллапа, где разрешения явны и поддаются принудительному исполнению, превращает делегирование в состояние протокола, а не в операционное доверие. Это ограничивает определенные риски принципал—агент. Но при этом бремя переносится на того, кто задает эти разрешения. Плохо определенный мандат, принудительно исполняемый безупречно, — возможно, хуже, чем широкий мандат, за которым внимательно следят, потому что система выполнит ошибку с полной точностью.
Столетия институционального проектирования исходили из предположения, что где-то существует человек, который сможет применить суждение, когда правила приводят к абсурдным результатам.
Если принуждение становится идеальным, а суждение — необязательным, кто несет издержки, когда корректно выполненный мандат оказывается неверным?
$NEWT
@NewtonProtocol
#newt
Автономность машин возрождает эту старую проблему в более жесткой форме. Агент ИИ, действующий с вашими ключами, — это не сотрудник, которого вы можете допросить, и не доверительный управляющий, на которого вы можете подать в суд. Это процесс. Единственно значимые контроли — те, что обеспечиваются до выполнения, потому что средства правовой защиты после выполнения практически не существуют. Другими словами, делегирование должно стать техническим примитивом, а не юридическим.
Протокол Newton стоит изучить именно на этой границе. Структурирование агентской активности внутри роллапа, где разрешения явны и поддаются принудительному исполнению, превращает делегирование в состояние протокола, а не в операционное доверие. Это ограничивает определенные риски принципал—агент. Но при этом бремя переносится на того, кто задает эти разрешения. Плохо определенный мандат, принудительно исполняемый безупречно, — возможно, хуже, чем широкий мандат, за которым внимательно следят, потому что система выполнит ошибку с полной точностью.
Столетия институционального проектирования исходили из предположения, что где-то существует человек, который сможет применить суждение, когда правила приводят к абсурдным результатам.
Если принуждение становится идеальным, а суждение — необязательным, кто несет издержки, когда корректно выполненный мандат оказывается неверным?
$NEWT
@NewtonProtocol
#newt