Я снова и снова возвращаюсь к @OpenGradient , потому что под технологией есть вопрос, который кажется сложнее, чем сама технология: что происходит, когда доверие становится чем-то, что системе приходится постоянно заслуживать, а не чем-то, что люди просто принимают как данность?
Идея построения открытого инфраструктурного слоя для ИИ связана с более масштабным сдвигом, который происходит вокруг нас. ИИ-системы становятся мощнее, но процессы, лежащие в их основе, часто остаются трудно проверяемыми. Фокус OpenGradient на размещении, инференсе и верификации заставляет меня меньше думать о функциях и больше — о человеческой проблеме, стоящей за ними. Если интеллект превращается в общую инфраструктуру, как мы решаем, что заслуживает доверия?
Полагаю, что самые большие трудности могут проявляться медленно, а не внезапно. Сначала участие часто исходят от людей, которые верят в миссию. Но со временем системы меняются. Люди становятся пользователями вместо участников. Операторы оптимизируют ради эффективности. Управление становится более сложным. Та же координация, которая помогает сети расти, в итоге может создать тихие формы централизации.
Больше всего меня беспокоит то, что децентрализация не убирает автоматически человеческое поведение из уравнения. Возможно, она лишь перестраивает его. Небольшая группа технически подкованных участников может стать невидимыми лицами, принимающими решения — не потому, что кто-то так планировал, а потому что сложность естественным образом толкает системы в сторону экспертизы.
Возможно, более важный вопрос не в том, сможет ли работать открытая инфраструктура для ИИ, а в том, сможет ли культура вокруг неё выдержать давление. Когда меняются стимулы, когда внимание исчезает и когда поддерживать целостность становится сложнее, чем добиться принятия, что остаётся?
Я не уверен, ответит ли эксперимент OpenGradient на этот вопрос. Возможно, настоящее испытание заключается не в том, чтобы построить сеть, которая может верифицировать интеллект, но.
@OpenGradient #OPG $OPG
Идея построения открытого инфраструктурного слоя для ИИ связана с более масштабным сдвигом, который происходит вокруг нас. ИИ-системы становятся мощнее, но процессы, лежащие в их основе, часто остаются трудно проверяемыми. Фокус OpenGradient на размещении, инференсе и верификации заставляет меня меньше думать о функциях и больше — о человеческой проблеме, стоящей за ними. Если интеллект превращается в общую инфраструктуру, как мы решаем, что заслуживает доверия?
Полагаю, что самые большие трудности могут проявляться медленно, а не внезапно. Сначала участие часто исходят от людей, которые верят в миссию. Но со временем системы меняются. Люди становятся пользователями вместо участников. Операторы оптимизируют ради эффективности. Управление становится более сложным. Та же координация, которая помогает сети расти, в итоге может создать тихие формы централизации.
Больше всего меня беспокоит то, что децентрализация не убирает автоматически человеческое поведение из уравнения. Возможно, она лишь перестраивает его. Небольшая группа технически подкованных участников может стать невидимыми лицами, принимающими решения — не потому, что кто-то так планировал, а потому что сложность естественным образом толкает системы в сторону экспертизы.
Возможно, более важный вопрос не в том, сможет ли работать открытая инфраструктура для ИИ, а в том, сможет ли культура вокруг неё выдержать давление. Когда меняются стимулы, когда внимание исчезает и когда поддерживать целостность становится сложнее, чем добиться принятия, что остаётся?
Я не уверен, ответит ли эксперимент OpenGradient на этот вопрос. Возможно, настоящее испытание заключается не в том, чтобы построить сеть, которая может верифицировать интеллект, но.
@OpenGradient #OPG $OPG