Negli ultimi giorni, @OpenGradient , l'attenzione è chiaramente aumentata e il mercato si sta riscaldando. Nel gruppo, sono ricominciate le domande su come la vediamo. A me, il semplice hype non interessa, sono più curioso di capire una cosa di cui nessuno parla: questo presunto "AI verificabile" che si vanta, su quali basi afferma di essere tale.
Cominciamo con il dolore che vuole risolvere. Ora come ora, usi qualsiasi AI e ti sputa una risposta, ma non hai modo di confermare se quella risposta proviene realmente dal modello che hai designato, se non è stata segretamente sostituita con un modello più economico, o se qualcuno non ci ha messo le mani in mezzo.
Questo è il "black box" dell'AI: devi solo fidarti di essa. Va bene in scenari di chiacchiere, ma quando l'AI deve gestire soldi on-chain, "devi solo fidarti" diventa un grande buco.
La soluzione di OpenGradient è di far girare l'inferenza all'interno di un TEE. Il TEE è una zona sicura fisicamente isolata all'interno del chip; quando il modello calcola in questo ambiente chiuso, l'hardware genera un certificato crittografico che dimostra "è proprio questo modello, intatto, che ha prodotto questo risultato in un ambiente sicuro".
Poi questo certificato hardware viene settato sulla blockchain, diventando una registrazione permanente, accessibile a chiunque. In parole povere, non ti sta facendo "credere" che questa inferenza sia vera, ma ti fornisce una prova matematicamente verificabile.
La fiducia passa dal fare affidamento sulla coscienza della piattaforma, a basarsi sull'hardware e sulla crittografia.
Quello che apprezzo di questo approccio è l'onestà: presume che non dovresti fidarti di nessuno, nemmeno di esso stesso. L'intero design ruota attorno a "come farti verificare senza dovermi fidare", il che è un punto di vista completamente diverso rispetto a quelli di quei progetti AI che dicono "siamo assolutamente giusti".
Ma i confini devono essere chiariti, per evitare che pensi che avere un TEE risolva tutto. Primo, il TEE prova che "questo modello è stato eseguito fedelmente", ma non prova "se questo modello è buono o se la risposta è corretta"—un modello scadente può produrre risultati scadenti e comunque ricevere un certificato valido. Secondo, soluzioni come le enclave hardware in sicurezza non sono infallibili nella ricerca sulla sicurezza; "sicurezza a livello hardware" non equivale a sicurezza assoluta.
Quindi, ciò che è verificabile risolve l'affidabilità dell'esecuzione, non la correttezza del risultato: non mescolare queste due cose.
E qual è il valore di questo sistema per chi? Per coloro che vogliono integrare l'AI sulla blockchain, per gestire denaro reale—agent AI che eseguono automaticamente, gestione del rischio on-chain, oracoli che forniscono dati.
#OPG #OpenGradient $OPG
Cominciamo con il dolore che vuole risolvere. Ora come ora, usi qualsiasi AI e ti sputa una risposta, ma non hai modo di confermare se quella risposta proviene realmente dal modello che hai designato, se non è stata segretamente sostituita con un modello più economico, o se qualcuno non ci ha messo le mani in mezzo.
Questo è il "black box" dell'AI: devi solo fidarti di essa. Va bene in scenari di chiacchiere, ma quando l'AI deve gestire soldi on-chain, "devi solo fidarti" diventa un grande buco.
La soluzione di OpenGradient è di far girare l'inferenza all'interno di un TEE. Il TEE è una zona sicura fisicamente isolata all'interno del chip; quando il modello calcola in questo ambiente chiuso, l'hardware genera un certificato crittografico che dimostra "è proprio questo modello, intatto, che ha prodotto questo risultato in un ambiente sicuro".
Poi questo certificato hardware viene settato sulla blockchain, diventando una registrazione permanente, accessibile a chiunque. In parole povere, non ti sta facendo "credere" che questa inferenza sia vera, ma ti fornisce una prova matematicamente verificabile.
La fiducia passa dal fare affidamento sulla coscienza della piattaforma, a basarsi sull'hardware e sulla crittografia.
Quello che apprezzo di questo approccio è l'onestà: presume che non dovresti fidarti di nessuno, nemmeno di esso stesso. L'intero design ruota attorno a "come farti verificare senza dovermi fidare", il che è un punto di vista completamente diverso rispetto a quelli di quei progetti AI che dicono "siamo assolutamente giusti".
Ma i confini devono essere chiariti, per evitare che pensi che avere un TEE risolva tutto. Primo, il TEE prova che "questo modello è stato eseguito fedelmente", ma non prova "se questo modello è buono o se la risposta è corretta"—un modello scadente può produrre risultati scadenti e comunque ricevere un certificato valido. Secondo, soluzioni come le enclave hardware in sicurezza non sono infallibili nella ricerca sulla sicurezza; "sicurezza a livello hardware" non equivale a sicurezza assoluta.
Quindi, ciò che è verificabile risolve l'affidabilità dell'esecuzione, non la correttezza del risultato: non mescolare queste due cose.
E qual è il valore di questo sistema per chi? Per coloro che vogliono integrare l'AI sulla blockchain, per gestire denaro reale—agent AI che eseguono automaticamente, gestione del rischio on-chain, oracoli che forniscono dati.
#OPG #OpenGradient $OPG