Widzę wzór w "argumentach" AI: Często nie walczą one o prawdę - walczą o to, jakie pytanie jest zadawane.
To jest to, co buduje Mira Network - warstwa weryfikacji, która dostosowuje zadanie przed weryfikacją. System musi wziąć dużą odpowiedź AI, podzielić ją na małe sprawdzalne twierdzenia, wysłać te twierdzenia do wielu niezależnych weryfikatorów/modeli, a następnie wyprodukować certyfikat kryptograficzny pokazujący, co zostało sprawdzone i na co osiągnięto konsensus.
Obecnie powierzchnia produktu Mira to Mira Verify (beta API): stworzona dla zespołów wprowadzających "autonomiczne AI", gdzie chcesz wiarygodnych wyników bez stałej recenzji ludzkiej.
Opiera się również na zachętach kryptograficznych (staking + nagrody/kary), aby weryfikatorzy byli zmuszeni do uczciwości, a nie lenistwa.
Jedno pytanie: Czy chcemy AI, które brzmi pewnie, czy AI, które może udowodnić, że wykonało pracę?
Jeśli stanie się normalne, że ważne wyniki AI są dostarczane z "paragonem weryfikacyjnym", widzimy początek czegoś większego: nie tylko mądrzejsze AI, ale także bezpieczniejsze AI - i spokojniejszy sposób na uzgodnienie, co jest prawdziwe.
