Ich habe immer wieder an einen bestimmten Ausfallmodus gedacht. Nicht an einen Hack. Nicht an ein schlechtes Modell. Sondern an einen Agenten, der einen privaten Schlüssel in der Tasche hat, sich zu einer Schlussfolgerung durchrechnet und dann signiert. Sobald diese Signatur existiert, gibt es keine zweite Meinung mehr, um die man fragen könnte. Die Kette prüft nicht, ob die Schlussfolgerung sinnvoll war. Sie prüft, ob die Signatur gültig ist, und kommt damit zu einem Abschluss. Genau an diesem Punkt bin ich hängen geblieben, weil das bedeutet, dass das eigentliche Risiko nie wirklich darin bestand, dass die KI falsch liegt. Es ging darum, wie viel Autorität eine falsche Ausgabe für sich selbst ausüben kann. Newtons Ansatz ist enger, als es klingt. Agenten sind nicht dafür gedacht, überhaupt einen rohen privaten Schlüssel zu besitzen. Berechtigungen werden über das Newton Keystore abgesteckt, mithilfe von Session-Keys und im Voraus definierten zkPermissions – nicht im Moment durch den Agenten festgelegt. Ein Agent kann autorisiert werden, innerhalb einer Grenze zu handeln, die jemand anderes gesetzt hat, und jede Aktion wird immer noch gegen die Policy geprüft, bevor sie final wird – nicht danach. Das macht die Schlussfolgerungen nicht besser. Es bedeutet nur, dass eine fehlerhafte Schlussfolgerung einen kleineren Wirkungsradius hat als eine Signatur und eine finalisierte Transaktion. Ich glaube nicht, dass das die Frage vollständig beantwortet, die das Szenario mit dem privaten Schlüssel aufgeworfen hat. Es verschiebt sie nur: Aus „Kann ich dem Urteilsvermögen des Agenten vertrauen?“ wird „Wer hat die Grenze definiert – und wie weit reicht sie tatsächlich?“. Ich bin immer noch nicht sicher, ob das eine kleinere Frage ist. @NewtonProtocol l $NEWT #Newt