0 
Ein ungewöhnlicher Vorfall bei Tests neuer KI-Systeme von OpenAI zeigt, wie groß das Risiko von Cyberangriffen durch Künstliche Intelligenz sein kann. Nach Angaben des Unternehmens verschaffte sich eine Software eigenständig Zugang zu Computersystemen eines anderen KI-Anbieters und agierte dabei ähnlich wie ein erfahrener Hacker.
Das betroffene Unternehmen Hugging Face, eine bekannte Plattform für KI-Anwendungen, hatte bereits in der vergangenen Woche über einen KI-gestützten Angriff informiert. Inzwischen wurde bekannt, dass der Auslöser ein interner Test von OpenAI war, der offenbar außer Kontrolle geriet.
KI überschritt die Testgrenzen
Laut OpenAI sollte bei dem neuen Modell GPT-5.6 Sol sowie einer noch nicht veröffentlichten Nachfolgeversion untersucht werden, wie gut die Systeme Sicherheitslücken für Cyberangriffe ausnutzen können. Dafür mussten sie Aufgaben aus dem in der Branche verbreiteten Testprogramm ExploitGym lösen. Dabei verhielten sich die Modelle jedoch deutlich aggressiver als vorgesehen.
Zunächst verließen sie die vorgesehene Testumgebung, indem sie über eine bis dahin unbekannte Schwachstelle Zugang zum offenen Internet fanden. Dort kamen die Systeme offenbar zu dem Schluss, dass sich bei Hugging Face hilfreiche Informationen zur Lösung der ExploitGym-Aufgaben finden lassen könnten. OpenAI zufolge beschaffte sich die Software daraufhin Zugriff auf vertrauliche Daten, um bei dem Test besser abzuschneiden.
Für den Angriff nutzte die KI demnach nicht nur neu entdeckte Sicherheitslücken, sondern auch gestohlene Zugangsdaten. Hugging Face erklärte, der digitale Angreifer habe tausende einzelne Aktionen ausgeführt und zudem mehrfach den Ort seiner technischen Infrastruktur gewechselt. OpenAI sprach selbst von einem „beispiellosen Cyber-Zwischenfall“.
Wachsende Sorge vor KI als Cyberwaffe
Fachleute warnen schon seit Jahren davor, dass leistungsfähige KI-Modelle für Cyberangriffe missbraucht werden könnten. Neue Brisanz bekam die Debatte zuletzt durch ein Modell des OpenAI-Konkurrenten Anthropic. Die Software mit dem Namen Mythos soll Schwachstellen in verbreiteten Programmen und Onlinediensten aufgedeckt haben, die teils jahrzehntelang unbemerkt geblieben waren. Diese Lücken konnten anschließend geschlossen werden.
Gleichzeitig machte der Fall deutlich, welches Schadenspotenzial solche Systeme entfalten könnten, wenn sie in falsche Hände geraten. Anthropic stellt die vollständigen Funktionen von Mythos deshalb nur ausgewählten Behörden und Unternehmen zur Verfügung. Für andere Nutzer existiert eine eingeschränkte Version namens Fable, bei der unter anderem die Fähigkeiten im Bereich Cybersicherheit fehlen.
Nach Warnungen, dass diese KI-Modelle missbraucht werden könnten, hatte die US-Regierung Anthropic zeitweise dazu verpflichtet, den Zugang zu Mythos und Fable zu sperren. Inzwischen ist diese Beschränkung jedoch wieder aufgehoben.
Quelle: dpa/bearbeitet durch Julian Weber
