#opg $OPG @OpenGradient
Je mehr ich mir dezentralisierte KI-Modell-Hubs anschaue, desto mehr denke ich, dass die Leute zu viel Vertrauen in Hashes setzen.
Eine Blob-ID ist nützlich, weil sie dir sagt, dass die Datei sich nicht verändert hat. Das ist wertvoll. Aber sie sagt dir nicht, ob das Modell tatsächlich vertrauenswürdig ist.
Sie sagt dir nicht, wer es erstellt hat, auf welchen Daten es trainiert wurde, ob die Lizenz klar ist oder ob sich während der Konvertierung etwas geändert hat. Sie sagt dir auch nicht, wie sich das Modell verhält, wenn echte Nutzer anfangen, es in Grenzfällen zu testen.
Deshalb finde ich das Model Hub von OpenGradient interessant. Die Herausforderung besteht nicht darin, Modelle zu speichern oder sie leicht auffindbar zu machen. Die größere Herausforderung besteht darin, den Leuten zu helfen zu verstehen, was sie gleich ausführen werden.
Da immer mehr KI-Infrastruktur genehmigungsfrei wird, denke ich, dass Vertrauen weniger vom Modell selbst und mehr vom Kontext darum herum kommen wird. Herkunft, Testhistorie, Audits, Nutzungsmuster und Reputation könnten ebenso wichtig sein wie das Modell selbst.
Ein Hash kann beweisen, dass eine Datei authentisch ist. Er kann nicht beweisen, dass die Datei dein Vertrauen verdient.
Je mehr ich mir dezentralisierte KI-Modell-Hubs anschaue, desto mehr denke ich, dass die Leute zu viel Vertrauen in Hashes setzen.
Eine Blob-ID ist nützlich, weil sie dir sagt, dass die Datei sich nicht verändert hat. Das ist wertvoll. Aber sie sagt dir nicht, ob das Modell tatsächlich vertrauenswürdig ist.
Sie sagt dir nicht, wer es erstellt hat, auf welchen Daten es trainiert wurde, ob die Lizenz klar ist oder ob sich während der Konvertierung etwas geändert hat. Sie sagt dir auch nicht, wie sich das Modell verhält, wenn echte Nutzer anfangen, es in Grenzfällen zu testen.
Deshalb finde ich das Model Hub von OpenGradient interessant. Die Herausforderung besteht nicht darin, Modelle zu speichern oder sie leicht auffindbar zu machen. Die größere Herausforderung besteht darin, den Leuten zu helfen zu verstehen, was sie gleich ausführen werden.
Da immer mehr KI-Infrastruktur genehmigungsfrei wird, denke ich, dass Vertrauen weniger vom Modell selbst und mehr vom Kontext darum herum kommen wird. Herkunft, Testhistorie, Audits, Nutzungsmuster und Reputation könnten ebenso wichtig sein wie das Modell selbst.
Ein Hash kann beweisen, dass eine Datei authentisch ist. Er kann nicht beweisen, dass die Datei dein Vertrauen verdient.