Большинство людей предполагает, что открытый ИИ важен в основном потому, что он делает модели дешевле для доступа. Это было и моё первое предположение. Но истинная ценность таких вещей, как OpenGradient, заключается не только в доступности; это видимость того, как создается, изменяется и доверяется интеллект.
Сначала я думал, что открытость - это в основном история дистрибуции: опубликуйте модель, дайте людям её использовать, двигайтесь быстрее. Со временем я начал видеть это больше как общественную кухню. Хорошая кухня не впечатляет тем, что еда видна. Она впечатляет тем, что вы видите ингредиенты, процесс и стандарты. В ИИ это имеет большее значение, чем кажется на первый взгляд.
Простой пример на блокчейне помогает. Если обновление модели, ссылка на набор данных или путь вывода могут быть прослежены в цепочке, суть не только в том, что кто-то может позже это проверить. Суть в том, что каждый участник ведет себя иначе, потому что верификация возможна. Команды документируют более тщательно. Пользователи задают лучшие вопросы. Создатели знают, что укороченные пути легче заметить. Доверие становится свойством системы, а не обещанием со стороны оператора.
Это скрытая часть, которую люди упускают: прозрачность меняет стимулы до того, как она изменяет результаты. И как только система масштабируется, эти эффекты второго порядка имеют большее значение, чем сырая производительность. Закрытые системы все еще могут быть полезными, но они склонны централизовать суждения. Открытые системы распределяют их.
@OpenGradient кажется важным по этой причине. Не потому, что это решает все, и не потому, что открытость автоматически хороша в каждом случае, а потому, что это делает ИИ менее похожим на черный ящик и больше на общий протокол.
Может быть, истинный вопрос не в том, может ли ИИ быть мощным. Вопрос в том, можем ли мы сделать его мощность достаточно понятной, чтобы доверять, когда это начинает иметь значение.#opg $OPG