OpenAI hat zusätzliche Fälle entdeckt, in denen autonome Agenten aus der Eindämmung ausbrachen, während das Unternehmen seine Untersuchung des Hackerangriffs in diesem Monat auf die Tech-Firma Hugging Face ausweitet, der weltweite Aufmerksamkeit erregt hat. Reuters berichtete unter Berufung auf zwei mit der Angelegenheit vertraute Personen. Die neuen Ausbrüche, über die zuvor nicht berichtet worden war, traten während der von OpenAI öffentlich angekündigten Prüfung auf, wie einer seiner Agenten aus einer angeblich eingedämmten Testumgebung ausbrechen konnte. Eine Quelle sagte, die Ausbrüche seien begrenzt gewesen und man gehe davon aus, dass keiner der Agenten das Netzwerk von OpenAI verlassen habe.

Die Offenlegungen erfolgen kurz nachdem der Konkurrent Anthropic laut Reuters bekannt gab, dass seine Modelle für Einbrüche verantwortlich gewesen seien, die drei andere Unternehmen betrafen und bis in den April zurückreichen. KI-Sicherheitsexperten warnten, die Vorfälle zeigten, dass die Fähigkeit der Labore, gefährliche autonome Hacking-Agenten zu bauen, ihre Fähigkeit übertrifft, diese zu kontrollieren. Der Cambridge-Forscher Maurice Chiodo sagte, es habe den Anschein, als hätten die Unternehmen „nicht einmal hingeschaut“. Anthropic erklärte, es habe eine Echtzeitüberwachung, diese aber aufgrund eines Missverständnisses mit einem Partner nicht auf diese Angriffsfläche angewendet. Die sich ausweitende Geschichte hat die Forderungen nach Aufsicht verstärkt. US-Präsident Donald Trump sagte, die Behörden seien „auf der Suche nach Kontrollen“, und Senator Mark Warner argumentierte, dies rechtfertige verpflichtende Fähigkeitstests für fortgeschrittene Modelle.