#opg $OPG

Представьте будущее, где ИИ-агент выполняет сделку, которая манипулирует рынком.
Убытки в миллиарды.
Регуляторы начинают расследование.
Компания заявляет:
"ИИ действовал самостоятельно."
Поставщик ИИ говорит:
"Наша модель никогда не давала такую инструкцию."
Пользователи говорят:
"Мы этого не разрешали."
Теперь все указывают пальцем друг на друга.
Но вот в чем проблема:
Как доказать, кто говорит правду?
По мере того как системы ИИ становятся более автономными, ошибки не просто приведут к убыткам.
Они создадут споры о подотчетности.
Настоящая проблема может заключаться не в создании более умного ИИ.
Возможно, дело в создании систем, которые могут точно доказать, что произошло, когда это произошло и кто это санкционировал.
Вот одна из причин, почему @OpenGradient выделяется для меня.
Идея проверяемого ИИ касается не только доверия.
Это вопрос подотчетности.
Потому что в будущем ИИ может потребоваться то, на что уже полагаются люди:
Алиби.
И без доказательств каждое поражение становится игрой в обвинения.
Если ИИ причинит финансовый ущерб однажды, кто должен нести ответственность: пользователь, разработчик или поставщик ИИ?
@OpenGradient t $OPG #OPG