Eine Idee kehrte immer wieder zu mir zurück, während ich über das Newton-Protokoll nachdachte.
Wir sind inzwischen damit vertraut, dass Berechtigung das Ende einer Entscheidung ist.
Sobald der Zugriff gewährt ist, fühlt sich die Ausführung wie der natürliche nächste Schritt an.
Für Menschen funktioniert diese Annahme oft, weil wir unsere Entscheidungen ständig anpassen – ohne es überhaupt zu bemerken.
Ein KI-Agent nicht.
Es befolgt, was ihm erlaubt wurde.
Dieser Unterschied scheint klein, bis sich die Umgebung ändert.
Eine Wallet kann weiterhin über Berechtigungen verfügen.
Eine Richtlinie kann weiterhin gültig prüfen.
Doch die ursprüngliche Intention des Nutzers kann bereits eine andere sein.
Die Lücke zwischen Berechtigung und Intention wirkt wichtiger, als ich zuerst dachte.
Je mehr ich über das Newton-Protocol nachgedacht habe, desto mehr hatte ich das Gefühl, dass seine Architektur sich nicht nur darum kümmert, Handlungen zu ermöglichen.
Es ermutigt uns, darüber nachzudenken, ob eine Handlung auch dann noch passieren sollte, wenn der Moment der Ausführung gekommen ist.
Diese subtile Unterscheidung ist entscheidend.
Denn autonome Systeme werden nicht immer scheitern, weil sie bösartig sind.
Manchmal werden sie scheitern, weil sie getreu Berechtigungen ausführen, die nicht mehr dem entsprechen, was der Nutzer tatsächlich will.
Vielleicht geht es bei der Zukunft der KI-Infrastruktur nicht darum, fähigere Agenten zu erschaffen.
Vielleicht geht es darum sicherzustellen, dass jede autorisierte Handlung weiterhin echten Intentionen entspricht, auch wenn sich der Kontext weiterentwickelt.
Je länger ich darüber nachdachte, desto mehr wurde mir klar, dass Vertrauen nicht nur mit Sicherheit zu tun hat.
Es geht um Ausrichtung.
Übereinstimmung zwischen dem, was ein Nutzer wollte, was die Richtlinie erlaubt, und dem, was schließlich bei der Ausführung ankommt.
Vielleicht ist das eine der stillen Lektionen, die im Newton-Protocol verborgen sind.
Nicht dass die Berechtigung existiert.
Aber allein diese Berechtigung sollte niemals mit Intention verwechselt werden.
Letzter Gedanke
Wenn autonome Systeme unabhängiger werden: Sollte die Autorisierung den Zugriff messen … oder sollte sie kontinuierlich die Nutzerintention schützen?
