Я попробовал сделать небольшую вещь на прошлой неделе: каждый раз, когда ИИ отвечает, я задаю себе вопрос: «если это окажется неверным, что я потеряю?»
Если спросить десятки раз, получается довольно ясная классификационная таблица. В большинстве случаев ответы, даже если они ошибочные, не страшны — подсказки по блюдам, переформулировка письма, краткое резюме статьи. Но есть и другая маленькая группа, совершенно иная: переводы денег по его словам, подписание договора, опираясь на его анализ, чтобы он сам принял решение по торговому ордеру. Если тут ошибиться, это уже не исправишь фразой «ладно, пропусти».
Проблема в том, что один и тот же ИИ отвечает обеим группам, одинаково уверенным тоном. Он не снижает темп и тон там, где риск высокий. Ответственность должен нести человек — понимать, где можно верить без оглядки, а где нужно остановиться и перепроверять. Но людям лень, а гладкий голос ИИ усыпляет доверие.
@OpenGradient , для меня примечателен тем, что он правильно выстроил именно ту маленькую группу с высоким риском. Там, где неверный ответ означает реальные потери денег, он не заставляет вас верить «на слово». Он отделяет того, кто производит результат, от того, кто проверяет: одна сторона выдает вывод, а другая затем снова изучает доказательства по прогонам, прежде чем этот вывод «устоит» на цепочке. $OPG и запускает этот механизм пристального просмотра. Вам не нужно верить голосу — у вас есть чем сверить.
Он не делает ИИ менее ошибочным. Он лишь гарантирует следующее: там, где ошибаться дорого, у вас есть путь понять, кто ошибся и где именно. А в мелочах — не надо, и никто зря этим не занимается.
Мне кажется, именно так и следует использовать verify: не проверять всё подряд, а проверять именно то, что действительно заслуживает проверки. $OPG делает ставку на немногие решения, где цена одной ошибочно доверенной уверенности слишком велика, чтобы отдавать её на произвол.
#opg $OPG
Если спросить десятки раз, получается довольно ясная классификационная таблица. В большинстве случаев ответы, даже если они ошибочные, не страшны — подсказки по блюдам, переформулировка письма, краткое резюме статьи. Но есть и другая маленькая группа, совершенно иная: переводы денег по его словам, подписание договора, опираясь на его анализ, чтобы он сам принял решение по торговому ордеру. Если тут ошибиться, это уже не исправишь фразой «ладно, пропусти».
Проблема в том, что один и тот же ИИ отвечает обеим группам, одинаково уверенным тоном. Он не снижает темп и тон там, где риск высокий. Ответственность должен нести человек — понимать, где можно верить без оглядки, а где нужно остановиться и перепроверять. Но людям лень, а гладкий голос ИИ усыпляет доверие.
@OpenGradient , для меня примечателен тем, что он правильно выстроил именно ту маленькую группу с высоким риском. Там, где неверный ответ означает реальные потери денег, он не заставляет вас верить «на слово». Он отделяет того, кто производит результат, от того, кто проверяет: одна сторона выдает вывод, а другая затем снова изучает доказательства по прогонам, прежде чем этот вывод «устоит» на цепочке. $OPG и запускает этот механизм пристального просмотра. Вам не нужно верить голосу — у вас есть чем сверить.
Он не делает ИИ менее ошибочным. Он лишь гарантирует следующее: там, где ошибаться дорого, у вас есть путь понять, кто ошибся и где именно. А в мелочах — не надо, и никто зря этим не занимается.
Мне кажется, именно так и следует использовать verify: не проверять всё подряд, а проверять именно то, что действительно заслуживает проверки. $OPG делает ставку на немногие решения, где цена одной ошибочно доверенной уверенности слишком велика, чтобы отдавать её на произвол.
#opg $OPG