In Zukunft werden KI-bezogene Klagen möglicherweise weiter zunehmen. Ob das Training von Modellen Urheberrechtsverletzungen darstellt, ob generierte Inhalte eine Form des Plagiats sind, wer für algorithmische Diskriminierung verantwortlich ist und wer für Schäden haftet, die durch automatisierte Entscheidungen entstehen – all das sind Fragen, die die Justiz bewältigen muss.

Diese Fälle betreffen nicht nur das Recht, sondern auch Trainingsdaten der Modelle, Code, Änderungen der Gewichte, die Ausgaberesultate und Systemprotokolle. Wenn Richter sich ausschließlich auf schriftliche Unterlagen stützen, kann es schwierig sein zu beurteilen, warum das Modell bestimmte Ergebnisse erzeugt, oder zu bestätigen, ob eine technische Behauptung tatsächlich zutrifft.

Daher braucht das Justizsystem effektivere Methoden, um technische Beweise in KI-Fällen zu analysieren und zu validieren.

Vorteile der KI

KI kann bei der Verarbeitung großer Mengen technischer Daten helfen, zum Beispiel Quellcode, Trainingsprotokolle, Zeitstempel, Modell-Ausgaben und Lizenzdokumente. Sie kann auch verschiedene Modellversionen vergleichen, Ausgaben unter bestimmten Bedingungen reproduzieren und Widersprüche zwischen den Beweismitteln aufdecken.

Diese Funktionen können zur Beantwortung konkreter Fragen verwendet werden:

Hat das Modell umstrittene Daten verwendet? Wie ähnlich ist eine bestimmte Ausgabe zu bestehenden Werken? Wurde das System zu einem bestimmten Zeitpunkt geändert? Hat der Entwickler jemals entsprechende Warnungen erhalten?

Die KI kann zunächst die Beweismittel ordnen, umstrittene Punkte markieren und dann mögliche Rechtsnormen vorschlagen, die anwendbar sein könnten. Das kann dazu beitragen, Auslassungen bei der manuellen Suche zu reduzieren, ersetzt aber nicht die Beurteilung von Richtern über die Glaubwürdigkeit von Beweismitteln und über rechtliche Verantwortung.

Risiken und Absicherungen

Die richterliche Gewalt sollte nicht direkt an eine KI übertragen werden. Eine verlässlichere Aufgabenverteilung ist: KI analysiert technische Unterlagen, rekonstruiert den Ablauf des Geschehens und unterbreitet Empfehlungen zur rechtlichen Anwendung; menschliche Richter behalten hingegen die Beweiswürdigung, die rechtliche Auslegung und die Befugnis zur endgültigen Entscheidung.

Jede Schlussfolgerung der KI muss nachvollziehbar sein. Das System sollte die verwendeten Beweismittel, die anwendbaren Rechtsnormen sowie die Gründe aufführen, warum bestimmte Behauptungen als glaubwürdig angesehen oder ausgeschlossen wurden, und auch die Teile nennen, die nicht bestätigt werden können. Wenn der Analyseprozess nicht reproduzierbar ist, können die Parteien keine wirksamen Einwände erheben.

Auch Justiz-KI sollte nicht einfach nur ein kommerzielles Modell sein, das ohne externe Prüfung eingesetzt wird. Selbst wenn Entwickler nicht Partei in dem betreffenden Fall sind, kann das Modell aufgrund von Trainingsdaten, Designentscheidungen oder der Art der Updates Verzerrungen erzeugen.

Daher sollte eine KI für den Gerichtsgebrauch mindestens folgende Anforderungen erfüllen: feste Modellversion, akzeptierbare unabhängige Auditierbarkeit von Code und Datenquellen, vollständige Aufbewahrung der Analyseprotokolle sowie ein System zur Offenlegung von Interessenkonflikten. Kläger und Beklagte sollten außerdem die Modellversionen abfragen können, die Datenquellen in Frage stellen und eine Erklärung des Schlussfolgerungsprozesses verlangen können.

In demselben Fall können mehrere unabhängige Systeme mit der Analyse beauftragt werden. Wenn die Ergebnisse unterschiedlich sind, sollten menschliche Richter die Gründe für die Abweichungen prüfen und nicht einfach die Mehrheitsmeinung übernehmen.

Ausblick auf das System

In Zukunft könnten spezialisierte Gerichte oder Spruchkörper entstehen, die sich mit KI-Streitigkeiten befassen. Die KI analysiert Modelle, Daten und Systemprotokolle; Menschen sind für Rechtsauslegung, ethische Bewertung, die Zuweisung von Verantwortlichkeiten und die endgültige Entscheidung zuständig.

Wenn ein Fall viele Trainingsdaten, komplexe Modellparameter und langjährige Systemaufzeichnungen umfasst, kann es sein, dass eine rein manuelle Prüfung nicht alle Beweismittel vollständig überprüfen kann. Das bedeutet jedoch nicht, dass die KI die Richter ersetzen sollte.

Ein vernünftigeres System ist es, KI dabei helfen zu lassen, dass Menschen technische Fakten besser verstehen, während die rechtliche Entscheidung in menschlicher Verantwortung bleibt. Nur wenn der Analyseprozess transparent ist, die Parteien Einwände erheben können und Fehler zur Verantwortung gezogen werden können, kann die KI zu einem Werkzeug der Justiz werden – und nicht zu einer neuen Macht-Black-Box.

Und die ersten, die dieses System am dringendsten brauchen, könnten gerade Fälle sein, die selbst KI betreffen.