opAI без верификации начинает ощущаться почти как сайты до HTTPS.

Не сломано. Не непригодно. Просто чего-то не хватает — того, что люди в итоге перестали принимать.

Я недавно просматривал OpenGradient, и одна цифра постоянно возвращала мое внимание: 156,461 приватных выводов, обработанных за один месяц. Сам объем был не самым интересным. Интереснее было то, какой вопрос за этим последовал.

Сколько из этих результатов кто-то мог бы независимо проверить?
Я все думал о том, как мы сейчас взаимодействуем с большинством ИИ-систем. Мы получаем ответ, возможно, оценку уверенности, иногда — источник, если повезет. Затем решаем, доверять ли ему. Многое из этого доверия по-прежнему строится на репутации, а не на доказательствах.

Это ощущается временным.

Чем больше я пользовался системами, которые показывают доказательства того, что произошло во время вывода, тем страннее стал казаться старый подход. Не потому, что каждый результат вдруг стал идеальным. Некоторые ответы по-прежнему были средними. Некоторые, вероятно, были неверными.
Разница была в видимости.

Несколько лет назад сайт, запрашивающий личную информацию без HTTPS, казался нормой. Потом это стало предупреждающим сигналом. Браузеры научили всех замечать отсутствие верификации.

Полагаю, ИИ пойдет похожим путем.

Не в этом году. Возможно, не в следующем.

Но к 2030 году получение важного результата, сгенерированного ИИ, без возможности проверить, откуда он взялся, как он был произведен или был ли он изменен, может начать ощущаться странно устаревшим.

Часть, в которой я до сих пор не уверен, — потребуют ли пользователи этот сдвиг первыми или инфраструктура доберется до этого раньше, чем кто-то начнет об этом просить.

@OpenGradient $OPG #OPG

К 2030 году что будет важнее всего при оценке ответа ИИ?