Ранее обсуждали @OpenGradient , постоянно говорили о том, как можно проверить выводы, сегодня добавлю часть, которую все игнорируют.
Насчет данных, которые подаются AI, можно ли им доверять?
На самом деле это большая яма.
Процесс вывода AI защищен как надо, даже если дать ему математически обоснованное доказательство, но если изначально данные, которые ему дали, были подделаны, то результаты, которые он выдает, даже если они "проверяемы", на самом деле просто исходят из ложных предпосылок.
Мусор на входе, мусор на выходе — доказательства не помогут. Мир блокчейна особенно зависит от внешних данных — цены, API-ответы, контент из социальных сетей, все это нужно брать от третьих сторон, и в момент получения данных, именно тогда проще всего что-то подменить.
Решение OpenGradient заключается в том, чтобы создать специальные Data Nodes для этой грязной работы. Эти узлы защищены шифрованием TEE, и весь процесс получения данных проходит в аппаратном окружении.
Это означает, что даже операторы узлов не могут видеть или изменять данные, которые проходят через них. Проще говоря, они выделяют "этап получения данных" отдельно, оборачивая его в аппаратную защиту, так что от источника до модели, никто не может незаметно вмешаться.
Мне нравится эта идея в своей целостности.
Многие AI проекты сосредоточены только на том, "правильно ли считает модель", но предполагают, что данные чистые — это опасное предположение. OpenGradient продвигает границы доверия дальше, не упуская даже входные данные. Каждый этап от получения данных до вывода и проверки не зависит от "доверия кому-то", это и есть замкнутый круг, а не оставление бэкдора.
Но границы все равно должны учитывать, что TEE может гарантировать лишь "данные поступают из источника нетронутыми", он не может гарантировать, что сам источник говорит правду. Если данные, предоставленные каким-то API, изначально неверны или сами загрязнены, Data Node просто верно перенесет эту ошибку.
Он защищает от подделки на промежуточном этапе, но не от фальсификации на источнике. Насчет того, насколько надежен источник, все равно нужно самому выбирать источники данных.
Так что, как на это смотреть: Data Nodes — это та часть, которая действительно делает "проверяемыми" в OpenGradient.
Они решают проблему "были ли данные подменены в процессе", с этой точки зрения многие проекты даже не задумывались, но помните о границах их возможностей — они обеспечивают безопасность во время транспортировки, но не могут гарантировать подлинность товара на выходе.
#OPG #OpenGradient $OPG
Насчет данных, которые подаются AI, можно ли им доверять?
На самом деле это большая яма.
Процесс вывода AI защищен как надо, даже если дать ему математически обоснованное доказательство, но если изначально данные, которые ему дали, были подделаны, то результаты, которые он выдает, даже если они "проверяемы", на самом деле просто исходят из ложных предпосылок.
Мусор на входе, мусор на выходе — доказательства не помогут. Мир блокчейна особенно зависит от внешних данных — цены, API-ответы, контент из социальных сетей, все это нужно брать от третьих сторон, и в момент получения данных, именно тогда проще всего что-то подменить.
Решение OpenGradient заключается в том, чтобы создать специальные Data Nodes для этой грязной работы. Эти узлы защищены шифрованием TEE, и весь процесс получения данных проходит в аппаратном окружении.
Это означает, что даже операторы узлов не могут видеть или изменять данные, которые проходят через них. Проще говоря, они выделяют "этап получения данных" отдельно, оборачивая его в аппаратную защиту, так что от источника до модели, никто не может незаметно вмешаться.
Мне нравится эта идея в своей целостности.
Многие AI проекты сосредоточены только на том, "правильно ли считает модель", но предполагают, что данные чистые — это опасное предположение. OpenGradient продвигает границы доверия дальше, не упуская даже входные данные. Каждый этап от получения данных до вывода и проверки не зависит от "доверия кому-то", это и есть замкнутый круг, а не оставление бэкдора.
Но границы все равно должны учитывать, что TEE может гарантировать лишь "данные поступают из источника нетронутыми", он не может гарантировать, что сам источник говорит правду. Если данные, предоставленные каким-то API, изначально неверны или сами загрязнены, Data Node просто верно перенесет эту ошибку.
Он защищает от подделки на промежуточном этапе, но не от фальсификации на источнике. Насчет того, насколько надежен источник, все равно нужно самому выбирать источники данных.
Так что, как на это смотреть: Data Nodes — это та часть, которая действительно делает "проверяемыми" в OpenGradient.
Они решают проблему "были ли данные подменены в процессе", с этой точки зрения многие проекты даже не задумывались, но помните о границах их возможностей — они обеспечивают безопасность во время транспортировки, но не могут гарантировать подлинность товара на выходе.
#OPG #OpenGradient $OPG