Vier Monate nachdem wir vom Hardware-Labor-Team zu Marketing gewechselt hatten, erwähnte eine Freundin, fast nebenbei, dass ihr Badge die Fertigungsanlage auch nach Feierabend noch geöffnet hatte. Ihr Mitarbeiterkonto war am Tag, an dem sie ihre Rolle gewechselt hatte, aktualisiert worden. Die physische Tür lief auf einer separaten Software, die nur einmal pro Quartal frische Datensätze aus dem HR-System zog.
Ein KI-Trading-Agent läuft auf denselben Fehler. Ein Nutzer kann die Berechtigung eines Agents in der App, die er verwendet, entziehen, aber wenn die Ausführungsebene des Agents noch mit einer alten, gecachten Lese-Information statt mit dem aktuellen Stand arbeitet, handelt der Agent weiterhin auf Autorität, die es so nicht mehr gibt.
Das Keystore-Rollup des Newton Protocols behandelt eine Änderung von Berechtigungen als eine Transaktion und nicht als simplen Schalter-Flip. Das Erteilen, Aktualisieren oder Zurückziehen eines Session Keys oder einer zkPermission wird durch denselben Validator-Set geprüft, der auch das Rollup sichert, und jede Agentenaktion muss dieses identische Set passieren, bevor sie als gültig gilt. Das ist die eigentliche Lösung: nicht dass der Entzug sofort passiert, sondern dass es nur einen einzigen Speicher für den Berechtigungsstatus gibt, in dem die Autorisierungsprüfung eines Agents und die Benutzer-Revocation gegen denselben Datensatz geprüft werden – statt gegen zwei, die auseinanderdriften können, so wie Badge und HR-Datenbank es getan haben. Agent-Operatoren hinterlegen außerdem NEWT als Sicherheit, um Modelle auszuführen, und wenn der Agent eines Operators auf eine Berechtigung zugreift, die er nicht haben sollte, kann diese Sicherheit gekürzt und an den betroffenen Nutzer umverteilt werden.
Selbstkritik: Kürzungen sind weiterhin ein Abschreckungsmittel, keine Verhinderung. Sie bestrafen einen Operator, nachdem ein Agent bereits auf eine Autorität gehandelt hat, die er nicht hätte haben dürfen – genauso wie das Ausschalten des Badges meiner Freundin heute nicht rückgängig machen würde, was die vier Monate lang weiterfunktionierte. Eine schnellere Validierung der Revocation schließt einen Teil der Lücke. Sie lässt den Moment zwischen „widerrufen“ und „durchgesetzt“ nicht verschwinden.
$NEWT should sollte daraufhin bewertet werden, wie klein dieses Zeitfenster zwischen widerrufen und durchgesetzt tatsächlich wird, nicht darauf, ob eine Berechtigung gut eingeschränkt war oder ob ein böswilliger Akteur irgendwann bestraft wurde.
#Newt @NewtonProtocol
Ein KI-Trading-Agent läuft auf denselben Fehler. Ein Nutzer kann die Berechtigung eines Agents in der App, die er verwendet, entziehen, aber wenn die Ausführungsebene des Agents noch mit einer alten, gecachten Lese-Information statt mit dem aktuellen Stand arbeitet, handelt der Agent weiterhin auf Autorität, die es so nicht mehr gibt.
Das Keystore-Rollup des Newton Protocols behandelt eine Änderung von Berechtigungen als eine Transaktion und nicht als simplen Schalter-Flip. Das Erteilen, Aktualisieren oder Zurückziehen eines Session Keys oder einer zkPermission wird durch denselben Validator-Set geprüft, der auch das Rollup sichert, und jede Agentenaktion muss dieses identische Set passieren, bevor sie als gültig gilt. Das ist die eigentliche Lösung: nicht dass der Entzug sofort passiert, sondern dass es nur einen einzigen Speicher für den Berechtigungsstatus gibt, in dem die Autorisierungsprüfung eines Agents und die Benutzer-Revocation gegen denselben Datensatz geprüft werden – statt gegen zwei, die auseinanderdriften können, so wie Badge und HR-Datenbank es getan haben. Agent-Operatoren hinterlegen außerdem NEWT als Sicherheit, um Modelle auszuführen, und wenn der Agent eines Operators auf eine Berechtigung zugreift, die er nicht haben sollte, kann diese Sicherheit gekürzt und an den betroffenen Nutzer umverteilt werden.
Selbstkritik: Kürzungen sind weiterhin ein Abschreckungsmittel, keine Verhinderung. Sie bestrafen einen Operator, nachdem ein Agent bereits auf eine Autorität gehandelt hat, die er nicht hätte haben dürfen – genauso wie das Ausschalten des Badges meiner Freundin heute nicht rückgängig machen würde, was die vier Monate lang weiterfunktionierte. Eine schnellere Validierung der Revocation schließt einen Teil der Lücke. Sie lässt den Moment zwischen „widerrufen“ und „durchgesetzt“ nicht verschwinden.
$NEWT should sollte daraufhin bewertet werden, wie klein dieses Zeitfenster zwischen widerrufen und durchgesetzt tatsächlich wird, nicht darauf, ob eine Berechtigung gut eingeschränkt war oder ob ein böswilliger Akteur irgendwann bestraft wurde.
#Newt @NewtonProtocol