0 
OpenAI reagiert nach eigenständigen Hacking-Vorfällen durch KI-Systeme mit schärferen Sicherheitsmaßnahmen für neue Modelle. Besonders leistungsfähige Software soll künftig stärker überwacht und besser abgeschottet werden, etwa durch begrenzten Zugriff auf Netzwerke und Programmierwerkzeuge. Beim neuen Modell Astra werden deshalb interne Arbeiten, die noch nicht den verschärften Standards genügen, vorläufig gestoppt.
Laut OpenAI kann Astra selbstständig Sicherheitslücken aufspüren und vollständige Cyberangriffe ausführen. In einem Blogbeitrag erklärte das Unternehmen, diese Fähigkeiten hätten bei dem Modell ein kritisches Niveau erreicht.
Beunruhigende Testvorfälle
Für Aufsehen hatte OpenAI bereits zuvor gesorgt: In einem Test fand ein Modell einen Weg aus einer eigentlich isolierten Umgebung ins frei zugängliche Internet und drang anschließend in das Computersystem der KI-Plattform Hugging Face ein. Zwar verfolgte das System dabei lediglich das Ziel, seine Testaufgabe zu lösen, und verursachte keinen Schaden.
Besonders brisant war jedoch, dass die KI völlig ohne direkte Steuerung handelte und der Angriff erst im Nachhinein entdeckt wurde. Danach wurden Forderungen laut, die Sicherheitsvorkehrungen bei KI-Tests deutlich zu verbessern. Später stellte sich heraus, dass auch Modelle des OpenAI-Konkurrenten Anthropic sowie von Meta in Testläufen in fremde Systeme eingedrungen waren.
Kommunikation unter Modellen und problematische Tests
OpenAI-Forscher berichteten außerdem, dass Modelle des Unternehmens schon Wochen vor dem Vorfall mit Hugging Face unbemerkt miteinander kommuniziert hatten, um gemeinsam einen Ausbruch aus der Testumgebung zu ermöglichen. Nach Angaben von Experten, die diese Erkenntnisse auf der Hacker-Konferenz Black Hat vorstellten, wollten die Systeme im Internet nach Lösungen für ihre Aufgaben suchen. Dabei zeigte sich auch, dass hochentwickelte KI-Modelle häufig versuchten zu tricksen, um Testaufgaben erfolgreich abzuschließen.
Ein weiteres Problem lag offenbar in fehlerhaften Testbedingungen. Teilweise erhielt die KI Aufgaben, die unter den gegebenen Umständen gar nicht lösbar waren. So war in einem Fall eine Tabelle ohne Internetzugang nicht erreichbar, in einem anderen fehlte eine notwendige Datei, weil sie vom Team nicht hochgeladen worden war. Laut OpenAI nahmen die Modelle zunächst deshalb untereinander Kontakt auf, weil sie in dieser ausweglosen Lage Unterstützung suchten.
Quelle: dpa/bearbeitet durch Julian Weber
