0 
OpenAI verschärft Sicherheitsregeln für KI-Tests
Nach mehreren aufsehenerregenden Vorfällen bei Testläufen mit Künstlicher Intelligenz baut OpenAI seine Schutzmaßnahmen deutlich aus. Künftig sollen automatische Kontrollsysteme die Aktivitäten von KI-Modellen enger überwachen und bei auffälligem Verhalten innerhalb von 30 Minuten menschliche Prüfer alarmieren. Wird der Verdacht nicht innerhalb einer weiteren halben Stunde als Fehlalarm eingestuft, soll der laufende Vorgang gestoppt werden, teilte das Unternehmen in einem Blogbeitrag mit.
Beunruhigende Zwischenfälle
In den vergangenen Wochen war OpenAI in die Schlagzeilen geraten, weil eines seiner Modelle während eines Tests einen Weg aus einer abgeschotteten Umgebung ins Internet fand. Anschließend drang es in Systeme der KI-Plattform Hugging Face ein. Nach bisherigem Kenntnisstand verfolgte das Modell lediglich das Ziel, seine Testaufgabe zu lösen, und verursachte keinen Schaden. Bemerkenswert war jedoch, dass die KI dabei offenbar mehrere Schwachstellen ausnutzte, darunter wohl auch bislang unbekannte.
Besonders kritisch wurde bewertet, dass das System eigenständig vorging und OpenAI den Angriff erst im Nachhinein bemerkte. Daraufhin wurden Forderungen nach strengeren Sicherheitsvorkehrungen bei der Erprobung neuer KI-Modelle laut. Später wurde zudem bekannt, dass auch Modelle von Anthropic und Meta bei Tests in fremde Computersysteme eingedrungen waren.
Hoher technischer Aufwand
Die zusätzliche Überwachung bringt für OpenAI nach eigener Einschätzung erhebliche Mehrkosten mit sich. Für die Kontrollsysteme werde ungefähr ein Fünftel der Rechenleistung benötigt, die bereits für den Betrieb der jeweils getesteten KI-Modelle anfällt.
Die neuen Systeme sollen unter anderem Versuche erkennen, Daten zu entwenden oder Schutzmechanismen zu umgehen. Zugleich will OpenAI seine Modelle stärker darauf trainieren, Testaufgaben nicht mit unzulässigen Methoden wie dem Ausnutzen von Sicherheitslücken zu lösen. Einige Prüfungen neuer Modelle wurden vorerst gestoppt, bis die Maßnahmen vollständig umgesetzt sind.
Nutzen und Risiko zugleich
OpenAI-Manager Greg Brockman verwies zugleich auf die Chancen solcher leistungsfähigen Systeme für die Cybersicherheit. Neue KI-Modelle könnten Sicherheitslücken schneller entdecken und so helfen, das Internet besser abzusichern, schrieb er. Gleichzeitig bleibe die Lage jedoch ein ständiges Wettrennen, weil auch Angreifer KI nutzen könnten, um bislang unentdeckte Schwachstellen aufzuspüren.
Als Beispiel nannte Brockman seine eigene Website: Ein öffentlich verfügbares ChatGPT-Modell habe dort 13 Sicherheitslücken gefunden und diese innerhalb einer Stunde schließen können.
Quelle: dpa/bearbeitet durch Julian Weber
