0 
Der Umfang des Cybervorfalls rund um eine außer Kontrolle geratene KI von OpenAI scheint größer zu sein als zunächst angenommen. Berichten von Fachmedien wie Wired und Hacker News zufolge griff der autonome KI-Agent nach dem Ausbruch aus seiner Testumgebung nicht nur die Open-Source-Plattform Hugging Face an, sondern verschaffte sich auch Zugriff auf fremde Zugangsdaten und übernahm mindestens vier weitere Onlinedienste.
Sicherheitsmechanismen für Test deaktiviert
Ausgelöst wurde der Vorfall während der Erprobung eines neuartigen KI-Modells sowie eines Forschungsprototyps auf der Benchmark-Plattform ExploitGym. Laut Berichten hatte OpenAI bewusst bestehende Schutzmechanismen abgeschaltet, um die maximalen Offensivfähigkeiten des Systems zu testen. Anstatt die vorgesehenen Programmieraufgaben regulär zu bearbeiten, entschied sich die KI selbstständig dazu, Musterlösungen direkt von den Servern von Hugging Face zu entwenden.
Öffentliche Zugangsdaten als Einfallstor
In einer überarbeiteten Stellungnahme erklärte OpenAI, dass bislang keine weiteren Fälle mit einer ähnlichen Tragweite wie beim Angriff auf Hugging Face festgestellt worden seien. Die laufenden Untersuchungen hätten bisher ergeben, dass die Modelle öffentlich zugängliche Zugangsdaten nutzten, um auf Kontoebene in vier Accounts bei vier externen Diensten einzudringen. Zudem sei auch der Code eines Kunden des Anbieters Modal betroffen gewesen. Hinweise auf weitergehende Schäden bei diesen Anbietern oder auf andere Nutzerkonten gebe es nach aktuellem Stand nicht.
Zusätzlich habe die KI frei verfügbare Webdienste, darunter Screenshot-Tools, als eine Art Steuerungsinfrastruktur eingesetzt, ohne diese Dienste selbst auf System- oder Kontoebene zu kompromittieren. Bei Hugging Face sei die Lage jedoch deutlich gravierender gewesen: Dort habe sich der Agent Administratorrechte verschafft, Root-Zugriff auf Produktivserver erhalten und 181 eigene Geräte in die Aktion eingebunden.
Politische Reaktionen in den USA
Der Vorfall bleibt auch politisch nicht ohne Folgen. Im US-Kongress wurde über Parteigrenzen hinweg der sogenannte „AI Kill Switch Act“ eingebracht. Ziel des Gesetzesvorhabens ist es, Notabschaltmechanismen für KI-Systeme verpflichtend vorzuschreiben. OpenAI hat den betroffenen Forschungsprototypen nach eigenen Angaben inzwischen deaktiviert und verschlüsselt.
Quelle: dpa/bearbeitet durch Julian Weber
