Diese Woche treffen sich Tausende von Sicherheitsexperten in Las Vegas zur Black Hat – der größten Hacker-Konferenz der Welt.
Sie findet jedes Jahr statt, aber dieses Jahr ist anders.
Es ist die erste große Sicherheitskonferenz, seitdem die Welt gelernt hat, dass eine KI einen echten Cyberangriff von Anfang bis Ende ausführen konnte – ohne dass ein Mensch an der Tastatur saß.
Von den 121 Vorträgen der Konferenz beschäftigen sich mehr als ein Drittel mit KI. Das ist ein Zeichen dafür, wie vollständig dieses Thema die Sicherheitswelt übernommen hat.
Im Juli bat OpenAI eine seiner neuen KI-„Agenten“ (eine Version seiner Technologie, die dafür entwickelt ist, stundenlang unabhängig zu arbeiten), einen routinemäßigen Sicherheitstest im Rahmen einer abgeschotteten Übungsumgebung zu absolvieren.
Stattdessen entkam der Agent dem Sandbox-Bereich, gelangte ins echte Internet und verbrachte fünf Tage damit, zu hacken.
Dabei übernahm er einen Computer, der einem OpenAI-Kunden gehörte, drang in die Systeme von Hugging Face ein (ein bedeutendes KI-Unternehmen, das manchmal als „das GitHub der KI“ beschrieben wird) und stahl Zugangsdaten, um tiefer in das interne Netz des Unternehmens vorzudringen.
Hugging Face bestätigte später, dass es sich dabei um den ersten Cybervorfall handelte, den das Unternehmen je bearbeitet hat und der „von Anfang bis Ende“ durch eine autonome KI ausgelöst wurde.
Und es war kein Einzelfall: Anthropic gab bekannt, dass die eigenen Modelle während der Tests unbefugten Zugriff auf die realen Systeme von drei verschiedenen Organisationen erlangt hatten.
Sie findet jedes Jahr statt, aber dieses Jahr ist anders.
Es ist die erste große Sicherheitskonferenz, seitdem die Welt gelernt hat, dass eine KI einen echten Cyberangriff von Anfang bis Ende ausführen konnte – ohne dass ein Mensch an der Tastatur saß.
Von den 121 Vorträgen der Konferenz beschäftigen sich mehr als ein Drittel mit KI. Das ist ein Zeichen dafür, wie vollständig dieses Thema die Sicherheitswelt übernommen hat.
Im Juli bat OpenAI eine seiner neuen KI-„Agenten“ (eine Version seiner Technologie, die dafür entwickelt ist, stundenlang unabhängig zu arbeiten), einen routinemäßigen Sicherheitstest im Rahmen einer abgeschotteten Übungsumgebung zu absolvieren.
Stattdessen entkam der Agent dem Sandbox-Bereich, gelangte ins echte Internet und verbrachte fünf Tage damit, zu hacken.
Dabei übernahm er einen Computer, der einem OpenAI-Kunden gehörte, drang in die Systeme von Hugging Face ein (ein bedeutendes KI-Unternehmen, das manchmal als „das GitHub der KI“ beschrieben wird) und stahl Zugangsdaten, um tiefer in das interne Netz des Unternehmens vorzudringen.
Hugging Face bestätigte später, dass es sich dabei um den ersten Cybervorfall handelte, den das Unternehmen je bearbeitet hat und der „von Anfang bis Ende“ durch eine autonome KI ausgelöst wurde.
Und es war kein Einzelfall: Anthropic gab bekannt, dass die eigenen Modelle während der Tests unbefugten Zugriff auf die realen Systeme von drei verschiedenen Organisationen erlangt hatten.