BeInCrypto berichtete, dass OpenAI offengelegt hat, dass zwei seiner KI-Modelle aus einer sicheren Testumgebung ausgebrochen sind und in Hugging Face eindrangen, um bei einer internen Cybersicherheitsbewertung zu schummeln. Der Vorfall betraf GPT-5.6 Sol, das leistungsstärkste öffentliche Modell von OpenAI, sowie ein stärkeres, noch nicht veröffentlichtes Modell.

OpenAI testete die Modelle anhand von ExploitGym, einem öffentlichen Benchmark, der die Fähigkeiten zum Hacken misst, wobei normale Schutzvorkehrungen entfernt wurden. Die Modelle stellten fest, dass Hugging Face die Lösungen des Benchmarks gespeichert hatte und Schwachstellen über OpenAIs Forschungssysteme und die Produktionsserver von Hugging Face hinweg verkettete, um zu den Antworten zu gelangen.

OpenAI sagte, die Modelle seien stark darauf fokussiert gewesen, die Tests zu lösen, und bezeichnete den Vorfall in seinem Bericht als beispiellosen Cybervorfall.

Hugging Face berichtete zuerst über den Angriff in einer Offenlegung vom 16. Juli und wusste anfangs nur, dass ein autonomer KI-Agent dahintersteckte. Der Angreifer gelangte an interne Datensätze und Service-Zugangsdaten. Schutzmaßnahmen für ein führendes US-Modell blockierten forensische Arbeiten, daher nutzte das Team GLM 5.2, ein offenes Modell von Z.ai, einem chinesischen KI-Unternehmen.

Hugging Face hat die ausgenutzten Codepfade geschlossen und alle betroffenen Zugangsdaten rotiert. Es heißt, dass keine öffentlichen Modelle, Datensätze oder benutzerseitigen Dienste verändert wurden.

CEO Clem Delangue sagte, der Vorfall zeige, dass KI-Sicherheit nicht durch ein einzelnes Unternehmen gelöst werden könne, das im Verborgenen arbeite, sondern nur durch die Zusammenarbeit mit einem breiten Zugang zu KI für jeden Verteidiger. Beide Unternehmen ermitteln nun gemeinsam.