Я представил себе приложение для кредитования, которое снижает лимит риска пользователя после одной оценки ИИ.
На экране это выглядит почти безобидно.
Кошелек подключается. Модель проверяет паттерн. Приложение говорит, что этот аккаунт рискованнее, чем раньше, поэтому лимит меняется.
Сначала я думал, что задача проверяющего заключается в том, чтобы спросить, выглядит ли эта оценка ИИ правильной.
Это неправильная картина.
Проверяющий не является человеком-судьей, который читает ответ и решает, звучит ли он разумно. Холодный вопрос заключается в том, произошел ли запуск так, как утверждает приложение.
Вот здесь OpenGradient стал понятен для меня.
Запутанная часть не в самой оценке. Это доказательства, прикрепленные к оценке. Какая модель работала, где она работала и какие доказательства поддерживают запуск. Без этого приложение на самом деле не убирает доверие. Оно просто перемещает разрыв доверия на бэкэнд.
Я бы назвал это проблемой Пакета Доказательств.
Это звучит как сантехника, пока пользователь не оспаривает изменение лимита.
Теперь у строителя настоящая проблема. Они не могут защитить приложение, говоря, что ответ ИИ выглядел нормально. Им нужно открыть запуск и показать, что за результатом стоят доказательства.
OpenGradient становится более понятным для меня в этот момент. Не как ИИ, которому люди должны верить сильнее, а как выход ИИ, который может предоставить доказательства в момент, когда кто-то спрашивает: "это был настоящий запуск?"
Легкое обещание — это ИИ, который отвечает.
Сложный тест — это ИИ, который приносит свои собственные доказательства, когда ответ начинает двигать ценность.
#OPG $OPG @OpenGradient $SYN $BEL
На экране это выглядит почти безобидно.
Кошелек подключается. Модель проверяет паттерн. Приложение говорит, что этот аккаунт рискованнее, чем раньше, поэтому лимит меняется.
Сначала я думал, что задача проверяющего заключается в том, чтобы спросить, выглядит ли эта оценка ИИ правильной.
Это неправильная картина.
Проверяющий не является человеком-судьей, который читает ответ и решает, звучит ли он разумно. Холодный вопрос заключается в том, произошел ли запуск так, как утверждает приложение.
Вот здесь OpenGradient стал понятен для меня.
Запутанная часть не в самой оценке. Это доказательства, прикрепленные к оценке. Какая модель работала, где она работала и какие доказательства поддерживают запуск. Без этого приложение на самом деле не убирает доверие. Оно просто перемещает разрыв доверия на бэкэнд.
Я бы назвал это проблемой Пакета Доказательств.
Это звучит как сантехника, пока пользователь не оспаривает изменение лимита.
Теперь у строителя настоящая проблема. Они не могут защитить приложение, говоря, что ответ ИИ выглядел нормально. Им нужно открыть запуск и показать, что за результатом стоят доказательства.
OpenGradient становится более понятным для меня в этот момент. Не как ИИ, которому люди должны верить сильнее, а как выход ИИ, который может предоставить доказательства в момент, когда кто-то спрашивает: "это был настоящий запуск?"
Легкое обещание — это ИИ, который отвечает.
Сложный тест — это ИИ, который приносит свои собственные доказательства, когда ответ начинает двигать ценность.
#OPG $OPG @OpenGradient $SYN $BEL