С тех пор как вчера @Mira_Network объявила о выделении 0.5% токенов для Yappers, Twitter заполонили различные проекты. После прочтения нескольких статей я все еще не понял, что это за проект.
Поэтому я пошел на их официальный сайт и прочитал их белую книгу от начала до конца, чтобы поделиться своим пониманием этого проекта с вами.
Mira Network: создание надежного верификационного движка для AI.
Вы когда-нибудь задумывались, что иногда ваш AI, отвечая на ваши вопросы, на самом деле не знает, правду ли он говорит. Он просто собирает предложение, которое может показаться правильным, под воздействием весов.
Другими словами, он серьезно бредит.
Это не проблема какой-то модели, а базовая недуга всего технологического стека AI: иллюзии неизбежны.
Это означает, что прежде чем мы будем мечтать о будущем, в котором AI принимает самостоятельные решения, AI автоматически пишет код, AI лечит болезни,
над нами висит меч Дамокла:
кто будет проверять, действительно ли то, что говорит AI?
Вот что хочет сделать Mira.
+ Разобрать весь контент, сгенерированный AI,
+ Затем передать его децентрализованной верификационной сети для проверки, достигнуто ли согласие,
+ И выдать зашифрованный сертификат «определения истинности» для каждого вывода.
Весь процесс похож на то, как если бы разобрать статью на предложения и попросить разных людей пересмотреть каждое предложение на его правильность.
За этим не стоит какая-то авторитетная модель, а многогранные оценки от различных AI, честное участие под воздействием механизма вознаграждения и в конечном итоге сформированное согласие.
Вы можете представить Mira как «нотариальную контору» в мире AI, всегда онлайн, охватывающую весь мир, комбинируемую и доступную для вызова интеллектуальной верификационной машины.
Техническая логика: не сравнивать, чей модель больше, а заставить несколько моделей взаимно исправлять ошибки.
Мы все видели, как AI серьезно бредит, не потому что он хочет обмануть, а потому что информация в его голове изначально перепутана.
Некоторая информация и данные устарели, некоторые противоречивы, а некоторые вообще лишены логики.
Но решение Mira не в том, чтобы создать более «большую» модель, а в том, чтобы подумать с другой точки зрения:
Поскольку ни одна модель не может достичь нулевой ошибки, давайте позволим нескольким моделям противостоять друг другу и достигать согласия.
Механизм вознаграждения: верификация не волонтерская работа, честность должна быть выгодной.
Вы можете спросить, если верификация зависит от моделей, то почему узлы должны честно работать, а не злоупотреблять?
Mira создала довольно совершенную систему для решения этой проблемы:
+ Задачи верификации будут стандартизированы в выбор, случайные догадки узлов могут оказаться неверными;
+ Узлы должны ставить активы, чтобы участвовать в верификации;
+ Если ответы часто отклоняются от согласия, система запускает Slashing, уменьшая залог;
+ Легкомысленные догадки не так выгодны, как честная работа, и это основная логика, позволяющая механизму верификации оставаться прочным.
Кроме того, по мере роста сети и увеличения разнообразия моделей окно для мошенничества становится все меньше.
Решение проблемы конфиденциальности: разбиение + шардирование, узлы не видят полной картины.
Mira также проявляет сдержанность в вопросах конфиденциальности, она не требует от узлов видеть оригинальный контент пользователя, система сначала извлекает каждое «ключевое утверждение» из оригинального контента,
например, «Слипи - красавчик», что ясно обозначает правду и ложь,
затем по одному отправляет на верификацию и случайным образом распределяет. Ни один отдельный узел не получает полной картины контекста, что гарантирует минимальную видимость пользовательских данных.
В будущем дорожная карта также введет криптографические вычисления, такие как MPC или ZK, постепенно децентрализуя логику преобразования контента, вся система станет все более прозрачной, но данные будут все меньше подвергаться раскрытию.
Конечная цель: интегрировать верификацию в ядро AI.
В настоящее время все крупные модели работают по схеме «сначала генерировать, потом ручная проверка», Mira хочет изменить этот процесс, чтобы будущий AI завершал верификацию в момент генерации.
Когда такая модель станет реальностью, вывод AI больше не будет нуждаться в человеческой поддержке, и искусственный интеллект, наконец, эволюционирует из «генеративного инструмента» в «доверенного партнера».
Тогда мы сможем действительно говорить о самоуправлении AI и революционных изменениях.
Поэтому я пошел на их официальный сайт и прочитал их белую книгу от начала до конца, чтобы поделиться своим пониманием этого проекта с вами.
Mira Network: создание надежного верификационного движка для AI.
Вы когда-нибудь задумывались, что иногда ваш AI, отвечая на ваши вопросы, на самом деле не знает, правду ли он говорит. Он просто собирает предложение, которое может показаться правильным, под воздействием весов.
Другими словами, он серьезно бредит.
Это не проблема какой-то модели, а базовая недуга всего технологического стека AI: иллюзии неизбежны.
Это означает, что прежде чем мы будем мечтать о будущем, в котором AI принимает самостоятельные решения, AI автоматически пишет код, AI лечит болезни,
над нами висит меч Дамокла:
кто будет проверять, действительно ли то, что говорит AI?
Вот что хочет сделать Mira.
+ Разобрать весь контент, сгенерированный AI,
+ Затем передать его децентрализованной верификационной сети для проверки, достигнуто ли согласие,
+ И выдать зашифрованный сертификат «определения истинности» для каждого вывода.
Весь процесс похож на то, как если бы разобрать статью на предложения и попросить разных людей пересмотреть каждое предложение на его правильность.
За этим не стоит какая-то авторитетная модель, а многогранные оценки от различных AI, честное участие под воздействием механизма вознаграждения и в конечном итоге сформированное согласие.
Вы можете представить Mira как «нотариальную контору» в мире AI, всегда онлайн, охватывающую весь мир, комбинируемую и доступную для вызова интеллектуальной верификационной машины.
Техническая логика: не сравнивать, чей модель больше, а заставить несколько моделей взаимно исправлять ошибки.
Мы все видели, как AI серьезно бредит, не потому что он хочет обмануть, а потому что информация в его голове изначально перепутана.
Некоторая информация и данные устарели, некоторые противоречивы, а некоторые вообще лишены логики.
Но решение Mira не в том, чтобы создать более «большую» модель, а в том, чтобы подумать с другой точки зрения:
Поскольку ни одна модель не может достичь нулевой ошибки, давайте позволим нескольким моделям противостоять друг другу и достигать согласия.
Механизм вознаграждения: верификация не волонтерская работа, честность должна быть выгодной.
Вы можете спросить, если верификация зависит от моделей, то почему узлы должны честно работать, а не злоупотреблять?
Mira создала довольно совершенную систему для решения этой проблемы:
+ Задачи верификации будут стандартизированы в выбор, случайные догадки узлов могут оказаться неверными;
+ Узлы должны ставить активы, чтобы участвовать в верификации;
+ Если ответы часто отклоняются от согласия, система запускает Slashing, уменьшая залог;
+ Легкомысленные догадки не так выгодны, как честная работа, и это основная логика, позволяющая механизму верификации оставаться прочным.
Кроме того, по мере роста сети и увеличения разнообразия моделей окно для мошенничества становится все меньше.
Решение проблемы конфиденциальности: разбиение + шардирование, узлы не видят полной картины.
Mira также проявляет сдержанность в вопросах конфиденциальности, она не требует от узлов видеть оригинальный контент пользователя, система сначала извлекает каждое «ключевое утверждение» из оригинального контента,
например, «Слипи - красавчик», что ясно обозначает правду и ложь,
затем по одному отправляет на верификацию и случайным образом распределяет. Ни один отдельный узел не получает полной картины контекста, что гарантирует минимальную видимость пользовательских данных.
В будущем дорожная карта также введет криптографические вычисления, такие как MPC или ZK, постепенно децентрализуя логику преобразования контента, вся система станет все более прозрачной, но данные будут все меньше подвергаться раскрытию.
Конечная цель: интегрировать верификацию в ядро AI.
В настоящее время все крупные модели работают по схеме «сначала генерировать, потом ручная проверка», Mira хочет изменить этот процесс, чтобы будущий AI завершал верификацию в момент генерации.
Когда такая модель станет реальностью, вывод AI больше не будет нуждаться в человеческой поддержке, и искусственный интеллект, наконец, эволюционирует из «генеративного инструмента» в «доверенного партнера».
Тогда мы сможем действительно говорить о самоуправлении AI и революционных изменениях.