Wie oft erteilen wir eine Erlaubnis… ohne sie nochmal zu überdenken?
Vor Jahren habe ich einer Liefer-App erlaubt, meine Karte zu speichern. Seitdem wird jede Bestellung mit dieser gleichen Genehmigung verarbeitet. Ich habe nie wieder irgendetwas bestätigt. Dieses eine „Ja“ reicht noch immer aus, um Jahre später Geld auszugeben.
In den meisten Fällen ist das kein großes Problem. Im schlimmsten Fall endet es in einem Kauf, den du nicht erwartet hast. Aber dieselbe Logik wird viel heikler, wenn es um KI-Agenten geht, die in der Lage sind, ein Wallet zu steuern.
Dabei taucht ein Risiko auf, das nur selten erwähnt wird: die dauerhafte Erlaubnis.
Wenn ein Agent nur einmal die Freigabe erhält, um frei zu handeln, hängt jede zukünftige Entscheidung ausschließlich von seinem Verhalten ab. Wenn er eine Anweisung falsch interpretiert, manipulierte Daten verarbeitet oder eine unerwartete Aktion ausführt, existiert die Genehmigung bereits. Er muss sie nicht noch einmal anfordern.
Dieser Ansatz hat mich dazu gebracht, das Modell zu würdigen, das Newton Protocol vorschlägt.
Anstatt auf eine anfängliche Freigabe zu vertrauen, kann jede Transaktion einzeln anhand von Richtlinien bewertet werden. Der Betrag, das Ziel, die Funktion des Vertrags und andere Parameter können überprüft werden, bevor die Operation autorisiert wird. Vertrauen hängt nicht mehr von einem einzigen Moment aus der Vergangenheit ab, sondern erneuert sich bei jeder Aktion.
Das heißt nicht, dass das Risiko verschwindet.
Es bedeutet nur, dass die Erlaubnis nicht mehr dauerhaft ist, sondern zu einer fortlaufenden Entscheidung wird.
Je mehr KI-Agenten verwalten, desto wichtiger wird dieser Unterschied meiner Meinung nach werden. Geschwindigkeit und Bequemlichkeit sind immer verlockend, aber Sicherheit besteht selten darin, einmal zu genehmigen und für immer zu vergessen.
Meine Liefer-App erinnert sich noch immer an eine Erlaubnis, die ich vor Jahren erteilt habe.
Ich würde lieber, dass ein von KI gesteuertes Wallet viel weniger „Gedächtnis“ hat als das.
Wie sollten KI-Agenten Operationen autorisieren?
@NewtonProtocol #Newt $NEWT
Vor Jahren habe ich einer Liefer-App erlaubt, meine Karte zu speichern. Seitdem wird jede Bestellung mit dieser gleichen Genehmigung verarbeitet. Ich habe nie wieder irgendetwas bestätigt. Dieses eine „Ja“ reicht noch immer aus, um Jahre später Geld auszugeben.
In den meisten Fällen ist das kein großes Problem. Im schlimmsten Fall endet es in einem Kauf, den du nicht erwartet hast. Aber dieselbe Logik wird viel heikler, wenn es um KI-Agenten geht, die in der Lage sind, ein Wallet zu steuern.
Dabei taucht ein Risiko auf, das nur selten erwähnt wird: die dauerhafte Erlaubnis.
Wenn ein Agent nur einmal die Freigabe erhält, um frei zu handeln, hängt jede zukünftige Entscheidung ausschließlich von seinem Verhalten ab. Wenn er eine Anweisung falsch interpretiert, manipulierte Daten verarbeitet oder eine unerwartete Aktion ausführt, existiert die Genehmigung bereits. Er muss sie nicht noch einmal anfordern.
Dieser Ansatz hat mich dazu gebracht, das Modell zu würdigen, das Newton Protocol vorschlägt.
Anstatt auf eine anfängliche Freigabe zu vertrauen, kann jede Transaktion einzeln anhand von Richtlinien bewertet werden. Der Betrag, das Ziel, die Funktion des Vertrags und andere Parameter können überprüft werden, bevor die Operation autorisiert wird. Vertrauen hängt nicht mehr von einem einzigen Moment aus der Vergangenheit ab, sondern erneuert sich bei jeder Aktion.
Das heißt nicht, dass das Risiko verschwindet.
Es bedeutet nur, dass die Erlaubnis nicht mehr dauerhaft ist, sondern zu einer fortlaufenden Entscheidung wird.
Je mehr KI-Agenten verwalten, desto wichtiger wird dieser Unterschied meiner Meinung nach werden. Geschwindigkeit und Bequemlichkeit sind immer verlockend, aber Sicherheit besteht selten darin, einmal zu genehmigen und für immer zu vergessen.
Meine Liefer-App erinnert sich noch immer an eine Erlaubnis, die ich vor Jahren erteilt habe.
Ich würde lieber, dass ein von KI gesteuertes Wallet viel weniger „Gedächtnis“ hat als das.
Wie sollten KI-Agenten Operationen autorisieren?
@NewtonProtocol #Newt $NEWT
Revisar cada transacción
100%
Un permiso inicial basta
0%
1 Stimmen • Abstimmung beendet