У меня с другом был простой спор, который превратился в более глубокий вопрос о конфиденциальности в ИИ.
Он предпочитает ИИ с местной обработкой данных, как в Венеции. Его аргумент прост: «Если модель работает на моем устройстве, мои данные никогда не покинут его. Это самая сильная конфиденциальность, которая возможна.»
По сути, это имеет смысл. Никакой сети. Никакого раскрытия. Никакой внешней зависимости.
Но затем я посмотрел на это с системной точки зрения.
Потому что как Венеция, так и OpenGradient решают проблему «конфиденциальности», но с совершенно разными предположениями о том, где на самом деле находится риск.
Подход Венеции — это местная обработка + открытые модели. Идея проста: держите вычисления ближе к пользователю, снижайте внешние риски и предполагаете, что устройство — это граница безопасности.
OpenGradient принимает противоположное предположение: устройство недостаточно. Сети, инфраструктура и уровни исполнения могут быть подвержены компрометации.
Поэтому вместо изоляции данных в одном месте, он пытается защитить их даже в движении.
TEE-аппаратные окружения изолируют вычисления на аппаратном уровне. OHTTP реле удаляют идентичность до того, как запросы достигнут моделей. Шифрование гарантирует, что данные остаются нечитаемыми даже во время обработки. А доказательства нацелены на то, чтобы сделать исполнение проверяемым, а не просто предполагаемым.
Так что разница не в «конфиденциальности против отсутствия конфиденциальности».
Это две разные определения того, где должна находиться доверие.
Один говорит: доверьтесь своему устройству и минимизируйте все, что находится за его пределами.
Другой говорит: недоверяйте каждому уровню устройства, сети, инфраструктуры и проектируйте конфиденциальность, которая выживает на всех этих уровнях.
Мой друг снова спросил: «Так какой из них на самом деле безопаснее?»
Я не дал прямого ответа.
Потому что настоящий вопрос не в безопасности.
Это предположение.
Вы предполагаете, что крайнее устройство является самой сильной границей?
Или вы предполагаете, что вся сеть по умолчанию ненадежна?
Вот где начинается настоящее расхождение между этими двумя философиями.
@OpenGradient $OPG $VVV #OPG
Он предпочитает ИИ с местной обработкой данных, как в Венеции. Его аргумент прост: «Если модель работает на моем устройстве, мои данные никогда не покинут его. Это самая сильная конфиденциальность, которая возможна.»
По сути, это имеет смысл. Никакой сети. Никакого раскрытия. Никакой внешней зависимости.
Но затем я посмотрел на это с системной точки зрения.
Потому что как Венеция, так и OpenGradient решают проблему «конфиденциальности», но с совершенно разными предположениями о том, где на самом деле находится риск.
Подход Венеции — это местная обработка + открытые модели. Идея проста: держите вычисления ближе к пользователю, снижайте внешние риски и предполагаете, что устройство — это граница безопасности.
OpenGradient принимает противоположное предположение: устройство недостаточно. Сети, инфраструктура и уровни исполнения могут быть подвержены компрометации.
Поэтому вместо изоляции данных в одном месте, он пытается защитить их даже в движении.
TEE-аппаратные окружения изолируют вычисления на аппаратном уровне. OHTTP реле удаляют идентичность до того, как запросы достигнут моделей. Шифрование гарантирует, что данные остаются нечитаемыми даже во время обработки. А доказательства нацелены на то, чтобы сделать исполнение проверяемым, а не просто предполагаемым.
Так что разница не в «конфиденциальности против отсутствия конфиденциальности».
Это две разные определения того, где должна находиться доверие.
Один говорит: доверьтесь своему устройству и минимизируйте все, что находится за его пределами.
Другой говорит: недоверяйте каждому уровню устройства, сети, инфраструктуры и проектируйте конфиденциальность, которая выживает на всех этих уровнях.
Мой друг снова спросил: «Так какой из них на самом деле безопаснее?»
Я не дал прямого ответа.
Потому что настоящий вопрос не в безопасности.
Это предположение.
Вы предполагаете, что крайнее устройство является самой сильной границей?
Или вы предполагаете, что вся сеть по умолчанию ненадежна?
Вот где начинается настоящее расхождение между этими двумя философиями.
@OpenGradient $OPG $VVV #OPG