#OPG Eu estava pensando 🤔 sobre isso ontem enquanto comparava as respostas de dois modelos de IA diferentes para o mesmo prompt. Ambos me deram respostas diferentes.
Nenhum deles me disse como chegou lá.
Esse é o espaço que "OpEngradient" está realmente construindo — não qual modelo é o mais inteligente, mas se você consegue provar o que foi executado e como.
O que chamou minha atenção é que eles não escolheram um único método de verificação e pronto.
Existe um espectro dependendo do que a situação realmente exige.
Para inferência cotidiana com LLM, quando a velocidade importa, a execução isolada por hardware dentro de enclaves AWS Nitro faz o trabalho.
O enclave gera uma atestação que prova que o código correto foi executado sem adulteração.
O overhead é insignificante.
Funciona em escala agora mesmo.
Para saídas de maior risco, em que a certeza matemática importa mais do que a taxa de transferência, as provas de conhecimento zero entram em cena.
Prova criptográfica de que um modelo específico produziu um resultado específico a partir de entradas específicas — sem hardware para confiar, sem terceiro para acreditar.
Mas o custo é real.
Em algum lugar entre 1000 e 10000 vezes mais lento do que a inferência direta, o que o torna inviável para modelos grandes por enquanto.
A parte que ficou comigo é que ambos os métodos podem ser misturados dentro de uma única operação.
Atestação de hardware para uma camada.
Prova de conhecimento zero para outra.
Ajustado ao que está realmente em jogo naquele passo específico, em vez de aplicado uniformemente em tudo.
A maioria dos projetos de infraestrutura que eu vi força você a aceitar a suposição de confiança deles.
OpenGradient permite que você escolha quanta prova você realmente precisa.
Se essa flexibilidade se mantém conforme a rede escala, é algo que eu considero genuinamente incerto.
@OpenGradient $OPG
Nenhum deles me disse como chegou lá.
Esse é o espaço que "OpEngradient" está realmente construindo — não qual modelo é o mais inteligente, mas se você consegue provar o que foi executado e como.
O que chamou minha atenção é que eles não escolheram um único método de verificação e pronto.
Existe um espectro dependendo do que a situação realmente exige.
Para inferência cotidiana com LLM, quando a velocidade importa, a execução isolada por hardware dentro de enclaves AWS Nitro faz o trabalho.
O enclave gera uma atestação que prova que o código correto foi executado sem adulteração.
O overhead é insignificante.
Funciona em escala agora mesmo.
Para saídas de maior risco, em que a certeza matemática importa mais do que a taxa de transferência, as provas de conhecimento zero entram em cena.
Prova criptográfica de que um modelo específico produziu um resultado específico a partir de entradas específicas — sem hardware para confiar, sem terceiro para acreditar.
Mas o custo é real.
Em algum lugar entre 1000 e 10000 vezes mais lento do que a inferência direta, o que o torna inviável para modelos grandes por enquanto.
A parte que ficou comigo é que ambos os métodos podem ser misturados dentro de uma única operação.
Atestação de hardware para uma camada.
Prova de conhecimento zero para outra.
Ajustado ao que está realmente em jogo naquele passo específico, em vez de aplicado uniformemente em tudo.
A maioria dos projetos de infraestrutura que eu vi força você a aceitar a suposição de confiança deles.
OpenGradient permite que você escolha quanta prova você realmente precisa.
Se essa flexibilidade se mantém conforme a rede escala, é algo que eu considero genuinamente incerto.
@OpenGradient $OPG