OpenGradient kann auf der Nachrichtenebene weiterhin fehlschlagen, bevor dem Modell überhaupt ein Token zum Vorhersagen zur Verfügung steht.
Ich bin im Chat-Flow festgefahren, weil das Risiko nicht zuerst die endgültige Antwort abdeckt. Es ist der Stapel der Nachrichten, der ihn geprägt hat.
Ein Builder kann llm.chat() aufrufen. Die Anfrage kann System-, Benutzer- und Assistant-Nachrichten enthalten. Sie kann auch Tools und tool_choice einschließen. Das Ergebnis kann mit Zahlungsnachweisen und einer TEE-gestützten Prompt-Verifizierung zurückkommen.
Das klingt vollständig, bis ein Agent anfängt, daraus Entscheidungen abzuleiten.
Wenn die falsche Systemnachricht über der Benutzeranfrage sitzt, kann das Modell der falschen Autorität folgen. Wenn eine vorherige Assistant-Nachricht im Thread bleibt, obwohl sie gelöscht werden sollte, kann die nächste Antwort veralteten Kontext übernehmen. Wenn tool_choice den falschen Funktionspfad anstößt, kann der Agent handeln, während die endgültige Ausgabe trotzdem normal aussieht.
Der Builder kann nicht nur beweisen, dass OpenGradient den Prompt ausgeführt hat.
Sie müssen beweisen, welches Konversations-Frame das Modell tatsächlich gesehen hat, als die Entscheidung getroffen wurde.
Das ist die Konsequenz, um die es mir geht. Ein Wallet-Risiko-Agent, ein Audit-Assistant oder ein Routing-Bot kann eine verifizierte Antwort erzeugen und trotzdem falsch liegen, weil die in den Aufruf eingespeisten Nachrichtenrollen falsch waren.
Eine signierte Antwort reicht nicht aus, wenn das Konversations-Frame kontaminiert war.
#OPG $OPG @OpenGradient $LINK $BLESS