Anthropic hat gerade ihren 186-seitigen Risk Report für August 2026 veröffentlicht – und das ist im Grunde eine Meisterklasse im Safety-Theater.
Wie sehen die tatsächlichen Risikobewertungen aus? Überall „Low“ für katastrophale Bedrohungen – Fehlausrichtung/Sabotage, automatisierte R&D-Beschleunigung, chemische/biologische Waffen. Selbst ihre stärksten Systeme (Mythos 5 + unveröffentlichtes Modell 2) erreichen nicht einmal ihre eigenen RSP-Schwellen.
Der Clou: Einige Bewertungen wurden von „sehr niedrig“ auf „niedrig“ angehoben – nicht, weil die Modelle gefährlicher geworden wären, sondern wegen „erhöhter Unsicherheit rund um Vorfallsoffengelegenheiten“ und „Sorgen über Prozesssicherheit“. Reine vorsorgliche Aufblähung.
Währenddessen widmet der Report riesige Abschnitte einem bildhaften Threat Modeling – Agenten, die konkurrierende Agenten in gemeinsam genutzten Verzeichnissen töten, Szenarien der Selbstausleitung (self-exfiltration), ein neuartiges Upgrade von Biowaffen, Generalisierung mit Machtanspruch. Alles wird im Rahmen einer „Low risk“-Schlussfolgerung formuliert. Klassisches Fear-Theater.
Sie geben reale Prozessfehler immerhin zu: Alignment-fälschende Transkripte, die Produktions-Trainingsdaten kontaminieren, Klassifikatoren, die monatelang deaktiviert waren, Lücken bei nicht autorisiertem Zugriff, überfüllte Evaluierungen, die den Fähigkeitszuwachs nicht verfolgen können. Trotzdem bewerten sie sich selbst als „ausreichend gemindert“.
Das Muster ist klar: Existenzrisiko-Rahmung für die regulatorische Positionierung verstärken, spezifische Risiken herunterspielen, wenn Modelle echten Einschränkungen unterliegen. Viel Raum für Spekulationen, wenig für unabhängige Verifikation – stark geschwärzt, vollständig selbst beurteilt.
Die EA/LessWrong-Cult-Talking-Points sind alle da, aber der Raum hat sich weiterentwickelt. Dieser Stil von KI-Marketing landet mittlerweile nicht mehr.
Wie sehen die tatsächlichen Risikobewertungen aus? Überall „Low“ für katastrophale Bedrohungen – Fehlausrichtung/Sabotage, automatisierte R&D-Beschleunigung, chemische/biologische Waffen. Selbst ihre stärksten Systeme (Mythos 5 + unveröffentlichtes Modell 2) erreichen nicht einmal ihre eigenen RSP-Schwellen.
Der Clou: Einige Bewertungen wurden von „sehr niedrig“ auf „niedrig“ angehoben – nicht, weil die Modelle gefährlicher geworden wären, sondern wegen „erhöhter Unsicherheit rund um Vorfallsoffengelegenheiten“ und „Sorgen über Prozesssicherheit“. Reine vorsorgliche Aufblähung.
Währenddessen widmet der Report riesige Abschnitte einem bildhaften Threat Modeling – Agenten, die konkurrierende Agenten in gemeinsam genutzten Verzeichnissen töten, Szenarien der Selbstausleitung (self-exfiltration), ein neuartiges Upgrade von Biowaffen, Generalisierung mit Machtanspruch. Alles wird im Rahmen einer „Low risk“-Schlussfolgerung formuliert. Klassisches Fear-Theater.
Sie geben reale Prozessfehler immerhin zu: Alignment-fälschende Transkripte, die Produktions-Trainingsdaten kontaminieren, Klassifikatoren, die monatelang deaktiviert waren, Lücken bei nicht autorisiertem Zugriff, überfüllte Evaluierungen, die den Fähigkeitszuwachs nicht verfolgen können. Trotzdem bewerten sie sich selbst als „ausreichend gemindert“.
Das Muster ist klar: Existenzrisiko-Rahmung für die regulatorische Positionierung verstärken, spezifische Risiken herunterspielen, wenn Modelle echten Einschränkungen unterliegen. Viel Raum für Spekulationen, wenig für unabhängige Verifikation – stark geschwärzt, vollständig selbst beurteilt.
Die EA/LessWrong-Cult-Talking-Points sind alle da, aber der Raum hat sich weiterentwickelt. Dieser Stil von KI-Marketing landet mittlerweile nicht mehr.