??? Antwort

Letzten Monat habe ich beobachtet, wie ein Händler sechsstellige Beträge verlor, weil ein KI-Modell selbstbewusst eine nicht existierende regulatorische Einreichung zitierte. Die Halluzination war perfekt, mit ordentlicher Formatierung, realistischen Daten und sogar einer gefälschten Dokumentennummer. Als die menschliche Überprüfung es bemerkte, war der Schaden bereits angerichtet.
Das ist nicht selten. Es ist Dienstag.
Wir setzen KI-Systeme schneller ein, als wir ihnen vertrauen können. Medizinische Diagnosen, rechtliche Verträge, finanzielle Analysen – Bereiche, in denen ein einziger Fehler in eine Katastrophe umschlagen kann. Die derzeitige Lösung? Mehr Menschen auf das Problem werfen. Aber menschliche Aufsicht skaliert nicht, und "vertrauen, aber überprüfen" funktioniert nicht, wenn die Überprüfung länger dauert als der Entscheidungszeitraum.