Gestern gegen ein Uhr, ich war eigentlich schon dabei, den Computer auszuschalten, aber ich konnte doch nicht widerstehen und habe das Dokument von @OpenGradient noch einmal geöffnet. Im Browser habe ich hin und her zwischen ein paar Dutzend Tabs gewechselt, ich habe die HACA-Architekturgrafik, den Prozess der Knotenauswertung und die Erklärungen zu OpenGradient Chat mehrfach im Vorher-Nachher-Vergleich gegeneinander gehalten und bin dann zu den vorherigen Kapiteln zurückgegangen, um alles noch einmal zu bestätigen. Kurzzeitig habe ich sogar bezweifelt, ob ich mein vorheriges Verständnis vielleicht verschoben hatte, also bin ich zurück und habe es noch einmal durchgearbeitet. Erst in genau diesem Moment habe ich begriffen, dass ich die ganze Zeit auf TEE und ZKML gestarrt habe und dabei den eigentlichen Punkt verpasst habe, der es wert ist, erforscht zu werden. Es ist nicht irgendeine einzelne Verifikationstechnologie, die es verdient, tief aufgerissen zu werden, sondern warum OpenGradient die Ausführungsschicht und die Verifikationsschicht konsequent entkoppelt.#OPG
Weiter unten habe ich langsam verstanden, dass das im Grunde ein Ingenieurproblem ist, nicht ein Begrifflichkeitsproblem. Die Modellfähigkeiten entwickeln sich seit jeher sehr schnell, auch die Art des Schließens/Inferierens ändert sich fortlaufend, aber das Entwicklungstempo der Verifikationstechnologien ist deutlich langsamer. Wenn man Modell und Verifikation zwanghaft miteinander verbindet, kann jedes Update des Modells das gesamte Verifikationslogik-Gefüge mitreißen; sobald HACA beide trennt, kann sich das Modell weiterentwickeln, während die Verifikationsschicht in ihrem eigenen Rhythmus aufrüstet, ohne sich gegenseitig zu behindern. Als ich das sah, merkte ich auch, dass ich vorher die ganze Zeit eher verglichen habe, was wichtiger sei – TEE oder ZKML – und damit ein bisschen vom richtigen Kurs abgekommen bin. OpenGradient ist nicht wirklich dafür gedacht, eine bestimmte Verifikationstechnologie zu entwerfen, sondern eine Architektur, die das fortlaufende Weiterentwickeln von Verifikationstechnologien überhaupt erst aufnehmen kann.
Wenn ich dann wieder auf OpenGradient Chat zurückblicke, verstehe ich umso besser, warum man aktuell vorrangig TEE nutzt. Chat ist kein einmaliger Offline-Inferenzvorgang, sondern ein fortlaufender Prozess des Generierens und der Interaktion. Was Nutzer wirklich spüren, ist Reaktionsgeschwindigkeit, Stabilität und ein durchgängiges Erlebnis – nicht welche Beweisart man in jedem einzelnen Schritt verwendet. Wenn man heute alle Chat-Inferenzschritte komplett auf das derzeit großskalige ZKML umstellen würde, könnte die theoretische Vertrauenswürdigkeit zwar steigen, aber die Wartekosten würden sich ebenfalls rasch vergrößern, und das technische Gleichgewicht wäre auf einmal gestört. Diese Entscheidung ist weniger „wer ist fortschrittlicher“, sondern eher „wer passt besser zu dieser Phase“.
Am Ende der Recherche ist das, was ich mir in meinen Notizen merke, weder TEE noch ZKML – sondern ein Satz: Was die langfristige Wettbewerbsfähigkeit von KI wirklich bestimmt, ist nicht welche Verifikationstechnologie im Spiel ist, sondern wer zuerst „Vertrauen“ so entwirft, dass es eine Systemfähigkeit wird, die sich gleichzeitig mit der Technologie weiterentwickeln kann.
#opg $OPG
Weiter unten habe ich langsam verstanden, dass das im Grunde ein Ingenieurproblem ist, nicht ein Begrifflichkeitsproblem. Die Modellfähigkeiten entwickeln sich seit jeher sehr schnell, auch die Art des Schließens/Inferierens ändert sich fortlaufend, aber das Entwicklungstempo der Verifikationstechnologien ist deutlich langsamer. Wenn man Modell und Verifikation zwanghaft miteinander verbindet, kann jedes Update des Modells das gesamte Verifikationslogik-Gefüge mitreißen; sobald HACA beide trennt, kann sich das Modell weiterentwickeln, während die Verifikationsschicht in ihrem eigenen Rhythmus aufrüstet, ohne sich gegenseitig zu behindern. Als ich das sah, merkte ich auch, dass ich vorher die ganze Zeit eher verglichen habe, was wichtiger sei – TEE oder ZKML – und damit ein bisschen vom richtigen Kurs abgekommen bin. OpenGradient ist nicht wirklich dafür gedacht, eine bestimmte Verifikationstechnologie zu entwerfen, sondern eine Architektur, die das fortlaufende Weiterentwickeln von Verifikationstechnologien überhaupt erst aufnehmen kann.
Wenn ich dann wieder auf OpenGradient Chat zurückblicke, verstehe ich umso besser, warum man aktuell vorrangig TEE nutzt. Chat ist kein einmaliger Offline-Inferenzvorgang, sondern ein fortlaufender Prozess des Generierens und der Interaktion. Was Nutzer wirklich spüren, ist Reaktionsgeschwindigkeit, Stabilität und ein durchgängiges Erlebnis – nicht welche Beweisart man in jedem einzelnen Schritt verwendet. Wenn man heute alle Chat-Inferenzschritte komplett auf das derzeit großskalige ZKML umstellen würde, könnte die theoretische Vertrauenswürdigkeit zwar steigen, aber die Wartekosten würden sich ebenfalls rasch vergrößern, und das technische Gleichgewicht wäre auf einmal gestört. Diese Entscheidung ist weniger „wer ist fortschrittlicher“, sondern eher „wer passt besser zu dieser Phase“.
Am Ende der Recherche ist das, was ich mir in meinen Notizen merke, weder TEE noch ZKML – sondern ein Satz: Was die langfristige Wettbewerbsfähigkeit von KI wirklich bestimmt, ist nicht welche Verifikationstechnologie im Spiel ist, sondern wer zuerst „Vertrauen“ so entwirft, dass es eine Systemfähigkeit wird, die sich gleichzeitig mit der Technologie weiterentwickeln kann.
#opg $OPG