Oggi ho scavato @OpenGradient un progetto di basso livello
Il core dell’architettura HACA sta in una frase
Separare in modo definitivo chi fa il lavoro da chi verifica il lavoro, nessuno deve coprire ruoli
Prima di tutto, i rischi da evitare
Nelle blockchain tradizionali, ogni nodo di validazione ripete gli stessi calcoli per raggiungere il consenso. Anche quando si tratta di cose semplici come i trasferimenti, può andare bene; ma l’inferenza AI richiede GPU e lavoro pesante che può durare diversi secondi. Se costringi centinaia di nodi in tutta la rete a ricalcolare uno stesso grande modello uno per uno, i costi diventano folli e non si riesce proprio a farlo girare
Ecco perché la maggior parte delle public chain quando entra nel mondo dell’AI è spesso imbarazzata
La soluzione di HACA è la specializzazione. I nodi di inferenza sono un gruppo di GPU worker privi di stato: eseguono il modello, producono i risultati e, quando hanno finito, generano anche una prova.
I nodi completi non toccano mai il modello
Fanno solo una cosa—verificare se quella prova è giusta—e poi registrare il tutto. Uno calcola soltanto, l’altro controlla soltanto: responsabilità fissate, senza incrociare i ruoli. Il costo di verificare una prova è di gran lunga inferiore al ricalcolo di un’intera inferenza AI. Così si mantiene la verificabilità da parte di tutti e, allo stesso tempo, non si satura la rete
Apprezzo molto questa misura
Non è avido fino al punto di voler costruire una public chain onnisciente tutta sua, ma ammette onestamente che il calcolo AI e il consenso blockchain sono due lavori diversi: serve usare due set di nodi. In basso si usa il consenso CometBFT: si va on-chain solo con l’approvazione di più di 2/3 dei validatori. Lo stack tecnologico è maturo—Cosmos SDK con EVM—senza reinventare la ruota; e anche i confini vanno chiariti
Per quanto sia intelligente questa soluzione, ciò che garantisce è che la fase di verifica sia efficiente e decentralizzata. Non può garantire che dall’altra parte ci siano sempre abbastanza GPU, né che i prezzi restino convenienti. I nodi che eseguono i modelli sono sempre quelli, quindi se la rete riuscirà ad attirare abbastanza potenza di calcolo, e abbastanza a buon mercato, è un’altra questione—l’architettura non risolve l’offerta: bisogna far entrare i miner con incentivi reali
Quindi, come la vedo io HACA: è un’idea di base ingegneristica davvero solida per capire se l’intero racconto di OpenGradient possa reggere
Ma una base solida è solo una condizione necessaria: sopra, per costruire davvero l’edificio, bisogna vedere se l’offerta di potenza di calcolo e la domanda di utilizzo reale riescono a crescere insieme nel tempo
Anche un diagramma architetturale bellissimo non vale nulla se nessuno ci corre davvero sopra
#OPG #OpenGradient $OPG
Il core dell’architettura HACA sta in una frase
Separare in modo definitivo chi fa il lavoro da chi verifica il lavoro, nessuno deve coprire ruoli
Prima di tutto, i rischi da evitare
Nelle blockchain tradizionali, ogni nodo di validazione ripete gli stessi calcoli per raggiungere il consenso. Anche quando si tratta di cose semplici come i trasferimenti, può andare bene; ma l’inferenza AI richiede GPU e lavoro pesante che può durare diversi secondi. Se costringi centinaia di nodi in tutta la rete a ricalcolare uno stesso grande modello uno per uno, i costi diventano folli e non si riesce proprio a farlo girare
Ecco perché la maggior parte delle public chain quando entra nel mondo dell’AI è spesso imbarazzata
La soluzione di HACA è la specializzazione. I nodi di inferenza sono un gruppo di GPU worker privi di stato: eseguono il modello, producono i risultati e, quando hanno finito, generano anche una prova.
I nodi completi non toccano mai il modello
Fanno solo una cosa—verificare se quella prova è giusta—e poi registrare il tutto. Uno calcola soltanto, l’altro controlla soltanto: responsabilità fissate, senza incrociare i ruoli. Il costo di verificare una prova è di gran lunga inferiore al ricalcolo di un’intera inferenza AI. Così si mantiene la verificabilità da parte di tutti e, allo stesso tempo, non si satura la rete
Apprezzo molto questa misura
Non è avido fino al punto di voler costruire una public chain onnisciente tutta sua, ma ammette onestamente che il calcolo AI e il consenso blockchain sono due lavori diversi: serve usare due set di nodi. In basso si usa il consenso CometBFT: si va on-chain solo con l’approvazione di più di 2/3 dei validatori. Lo stack tecnologico è maturo—Cosmos SDK con EVM—senza reinventare la ruota; e anche i confini vanno chiariti
Per quanto sia intelligente questa soluzione, ciò che garantisce è che la fase di verifica sia efficiente e decentralizzata. Non può garantire che dall’altra parte ci siano sempre abbastanza GPU, né che i prezzi restino convenienti. I nodi che eseguono i modelli sono sempre quelli, quindi se la rete riuscirà ad attirare abbastanza potenza di calcolo, e abbastanza a buon mercato, è un’altra questione—l’architettura non risolve l’offerta: bisogna far entrare i miner con incentivi reali
Quindi, come la vedo io HACA: è un’idea di base ingegneristica davvero solida per capire se l’intero racconto di OpenGradient possa reggere
Ma una base solida è solo una condizione necessaria: sopra, per costruire davvero l’edificio, bisogna vedere se l’offerta di potenza di calcolo e la domanda di utilizzo reale riescono a crescere insieme nel tempo
Anche un diagramma architetturale bellissimo non vale nulla se nessuno ci corre davvero sopra
#OPG #OpenGradient $OPG