Ich glaube nicht, dass die Zukunft von KI im Finanzwesen von intelligenterer KI abhängt.
Je mehr ich über KI im Finanzwesen lese, desto öfter komme ich auf einen Gedanken zurück.
Intelligenz ist nicht mehr das schwierigste Problem.
Wir bauen KI-Agenten, die Märkte analysieren, Trades ausführen, Wallets verwalten und mit On-Chain-Protokollen interagieren können – mit sehr wenig menschlichem Input.
Das ist beeindruckend.
Aber es wirft auch eine Frage auf, der ich nicht glaube, dass genug Aufmerksamkeit geschenkt wird.
Wer entscheidet, was eine KI tatsächlich tun darf?
Eine KI weiß nicht, ob eine Entscheidung riskant, ethisch oder angemessen ist.
Sie hält nicht an und fragt, ob eine Transaktion überhaupt Sinn ergibt.
Sie funktioniert einfach innerhalb der Berechtigungen, die ihr gegeben wurden.
Wenn diese Berechtigungen falsch sind, kann selbst die fähigste KI eine Entscheidung treffen, die zu erheblichem finanziellen Verlust führt.
Das ist einer der Gründe, @NewtonProtocol l hat meine Aufmerksamkeit erregt.
Anstatt sich nur darauf zu konzentrieren, KI-Agenten leistungsfähiger zu machen, führt Newton eine Autorisierungsschicht ein, die prüft, ob jede KI-gesteuerte Aktion vordefinierten Richtlinien entspricht, bevor sie ausgeführt wird.
Dies ermöglicht Entwicklern, Ausgabenlimits, genehmigte Protokolle und Ausführungsbedingungen festzulegen, bevor eine KI Gelder bewegen darf.
Für mich ist das eine viel praktischere Art, über Vertrauen nachzudenken.
Statt davon auszugehen, dass eine KI immer die richtige Entscheidung trifft, sollten wir Systeme bauen, die die Wahrscheinlichkeit für die falsche Entscheidung verringern.
Da autonome Agenten zu einem größeren Teil des Finanzwesens werden, glaube ich, dass Autorisierungsrahmen genauso wichtig werden wie die KI-Modelle selbst.
Denn nicht unbedingt wird die KI erfolgreich sein, die die intelligenteste ist.
Es wird diejenige sein, die innerhalb von Regeln arbeitet, die Menschen verstehen, überprüfen und denen sie vertrauen können.
Was denken Sie?
Da KI in der Finanzwelt mehr Verantwortung übernimmt: Was wird langfristig wichtiger sein—smarteren KI-Modellen oder stärkeren Autorisierungsrahmen?