ИИ-агентам нужны границы, а не просто более умные модели
когда я разрабатывал собственного ИИ-агента для прогнозных рынков, мой первый инстинкт был довольно простым.
сделать умнее.
лучший промпт, лучший источник данных, лучшие фильтры, лучший анализ рынка, лучшее рассуждение.
в то время меня интересовало только одно: сможет ли агент находить хорошие возможности.
но потом один вопрос начал меня беспокоить:
что если агент прав по поводу возможности, но ошибается в размере?
или что если он находит хорошую сделку, но открывает слишком много позиций?
или слишком быстро реагирует на шумный сигнал?
или взаимодействует с рынком, которого я никогда не хотел ему позволять?
тогда мне стало ясно: реальная проблема ИИ-агентов в финансах — это не только интеллект.
это разрешения.
лучшая модель может уменьшить ошибки, но она не определяет, какой ущерб от одной ошибки допустим.
и если агент контролирует кошелёк, цепочке не важно, какая история стоит за действием.
транзакция либо подтверждается, либо нет.
вот где @NewtonProtocol становится для меня понятным.
Ньютон не пытается быть мозгом ИИ-агента.
он пытается быть границей вокруг него.
прежде чем транзакция агента будет подтверждена, намерение можно проверить на соответствие действующей политике. максимальные траты в день. только одобренные протоколы. без санкционированных адресов. без высокорисковых контрактов. без кредитного плеча сверх лимита. без распределения средств из хранилища вне мандата.
если действие нарушает правило, действительного разрешения нет — значит, транзакцию можно отклонить до того, как деньги сдвинутся.
это другой способ думать об агентных финансах.
мы продолжаем спрашивать:
как сделать агентов умнее?
но, возможно, более важный вопрос такой:
какое худшее действие этот агент имеет право выполнить?
Newton Mainnet Beta начинается с хранилищ, но ту же логику можно распространить и на ИИ-агентов.
менеджерам хранилищ нужны лимиты риска.
ИИ-агентам нужны лимиты исполнения.
потому что автономность без границ — это не интеллект.
это просто более быстрый способ совершать ошибки на реальные капиталы.
@NewtonProtocol $NEWT #Newt
когда я разрабатывал собственного ИИ-агента для прогнозных рынков, мой первый инстинкт был довольно простым.
сделать умнее.
лучший промпт, лучший источник данных, лучшие фильтры, лучший анализ рынка, лучшее рассуждение.
в то время меня интересовало только одно: сможет ли агент находить хорошие возможности.
но потом один вопрос начал меня беспокоить:
что если агент прав по поводу возможности, но ошибается в размере?
или что если он находит хорошую сделку, но открывает слишком много позиций?
или слишком быстро реагирует на шумный сигнал?
или взаимодействует с рынком, которого я никогда не хотел ему позволять?
тогда мне стало ясно: реальная проблема ИИ-агентов в финансах — это не только интеллект.
это разрешения.
лучшая модель может уменьшить ошибки, но она не определяет, какой ущерб от одной ошибки допустим.
и если агент контролирует кошелёк, цепочке не важно, какая история стоит за действием.
транзакция либо подтверждается, либо нет.
вот где @NewtonProtocol становится для меня понятным.
Ньютон не пытается быть мозгом ИИ-агента.
он пытается быть границей вокруг него.
прежде чем транзакция агента будет подтверждена, намерение можно проверить на соответствие действующей политике. максимальные траты в день. только одобренные протоколы. без санкционированных адресов. без высокорисковых контрактов. без кредитного плеча сверх лимита. без распределения средств из хранилища вне мандата.
если действие нарушает правило, действительного разрешения нет — значит, транзакцию можно отклонить до того, как деньги сдвинутся.
это другой способ думать об агентных финансах.
мы продолжаем спрашивать:
как сделать агентов умнее?
но, возможно, более важный вопрос такой:
какое худшее действие этот агент имеет право выполнить?
Newton Mainnet Beta начинается с хранилищ, но ту же логику можно распространить и на ИИ-агентов.
менеджерам хранилищ нужны лимиты риска.
ИИ-агентам нужны лимиты исполнения.
потому что автономность без границ — это не интеллект.
это просто более быстрый способ совершать ошибки на реальные капиталы.
@NewtonProtocol $NEWT #Newt