Etwas hat mich heute beim Lesen von Newtons Dokumentation unaufhörlich beschäftigt.
Mir wurde klar, dass ich über KI auf der Blockchain auf die falsche Weise nachdenke. Ich habe ständig gefragt, wie viel ein KI-Agent automatisieren könnte. Was mir dabei besonders hängen blieb, war viel einfacher. Wer entscheidet, was diese KI tun darf, bevor sie meine Assets berührt?
Das nächstliegende reale Beispiel ist, jemandem den Schlüssel zu meinem Haus zu geben. Vielleicht vertraue ich ihm, dass er die Pflanzen gießt, während ich weg bin, aber das heißt nicht, dass ich möchte, dass er wildfremde Personen herebitten lässt, nur weil er dachte, das sei eine gute Idee. Vertrauen ohne klare Grenzen ist etwas völlig anderes als Vertrauen mit festgelegten Grenzen.
Deshalb hat mich der policy-first-Ansatz angesprochen. Die Entscheidung soll getroffen werden, bevor eine Onchain-Aktion ausgeführt wird, nicht erst nachdem die Konsequenzen sich bereits entfaltet haben.
Der Teil, der mich weiterhin beschäftigt, ist die Frage, ob diese Richtlinien auch dann noch wirksam bleiben können, wenn die reale Welt unübersichtlich wird. Regeln, die auf dem Papier solide wirken, können veralten, wenn sich das Nutzerverhalten, die Anwendungen und die Risiken weiterentwickeln. Diese Regeln aktuell zu halten, könnte am Ende genauso schwierig sein wie der eigentliche Aufbau der KI.
Da gibt es noch einen weiteren Trade-off, den ich nicht ignorieren kann. Strengere Richtlinien können unerwünschte Aktionen reduzieren, aber sie können auch legitime Aktionen schwerer auszuführen machen, wenn die Regeln zu restriktiv werden. Das Gleichgewicht zwischen Sicherheit und Flexibilität zu finden, scheint deutlich schwieriger zu sein, als es klingt.
Das lässt mich mit einer anderen Frage zurück als mit der, mit der ich gestartet bin. Vielleicht wird die Zukunft von KI auf der Onchain nicht dadurch bestimmt, wie intelligent der Agent wird, sondern dadurch, wie sorgfältig seine Grenzen gestaltet sind.
