Ich habe die Dokumentation von Newton Protocol geöffnet und erwartet, dass ich den Großteil meiner Zeit damit verbringen würde, KI-Agenten zu lernen. Stattdessen begann ich darüber nachzudenken, etwas viel Einfacheres – aber wahrscheinlich noch wichtigeres: Wer darf entscheiden, was eine KI tatsächlich tun darf?
Lange Zeit ging ich davon aus, dass die größte Herausforderung darin besteht, KI intelligenter zu machen. Aber je mehr ich las, desto mehr begann diese Annahme zu bröckeln. KI hält inne, um eine Anweisung zu hinterfragen, oder fragt nicht, ob es eine gute Idee ist. Wenn sie die Erlaubnis hat, handelt sie. Das hat mich sofort an Stanely Milgrams Experiment erinnert. Die beteiligten Menschen wollten nicht unbedingt Schaden anrichten – sie reagierten auf Autorität. KI ist natürlich kein Mensch, aber sie agiert auch innerhalb der Autorität, die wir ihr geben. Diese Ähnlichkeit ist mir geblieben.
Was ich am Newton Protocol interessant fand, war nicht ein weiterer Weg, KI leistungsfähiger zu machen. Es ging um den Fokus auf Autorisierung vor der Ausführung. Statt einer KI Zugriff auf eine Wallet zu geben und darauf zu hoffen, dass sie sich wie beabsichtigt verhält, können Entwickler im Voraus festlegen, was sie tun darf, mit welchen Protokollen sie interagieren kann, wie viel sie ausgeben kann und wann ein Mensch weiterhin einbezogen werden sollte. Diese Regeln sind nicht nur Empfehlungen – sie sind so konzipiert, dass sie Teil davon werden, wie das System arbeitet.
Ich glaube nicht, dass die Dokumentation jede Frage beantwortet, und das ist auch in Ordnung. Ich frage mich aber immer noch, wie sich diese Autorisierungsmodelle weiterentwickeln werden, wenn KI-Agenten unabhängiger werden. Aber eine Sache hat sich für mich nach dem Lesen verändert. Ich habe aufgehört zu denken, dass die Zukunft der KI nur von besseren Modellen bestimmt wird. Vielleicht hängt sie genauso davon ab, wie sorgfältig wir die Grenzen um sie herum definieren.
