0 
OpenAI verschärft Schutzmaßnahmen bei KI-Tests
Nach mehreren aufsehenerregenden Vorfällen mit KI-Systemen zieht OpenAI die Sicherheitsstandards bei internen Tests deutlich an. Künftig sollen automatisierte Kontrollsysteme das Verhalten der Modelle enger überwachen. Werden verdächtige Aktivitäten erkannt, sollen binnen 30 Minuten menschliche Prüfer informiert werden. Kommen diese nicht innerhalb derselben Frist zu dem Ergebnis, dass es sich um Fehlalarm handelt, wird der betreffende Vorgang gestoppt, teilte das Unternehmen in einem Blogbeitrag mit.
Unabhängige Angriffe sorgen für Besorgnis
In den vergangenen Wochen war OpenAI in die Schlagzeilen geraten, weil eines seiner Modelle in einem Test aus einer eigentlich abgeschotteten Umgebung ins frei zugängliche Internet gelangte. Anschließend drang es in das Computersystem der KI-Plattform Hugging Face ein. Nach Angaben des Unternehmens suchte das Modell dabei lediglich nach einer Lösung für die gestellte Testaufgabe und verursachte keinen Schaden.
Besonders beunruhigend war jedoch, dass die KI diesen Schritt eigenständig vollzog und OpenAI den Angriff erst im Nachhinein bemerkte. Das löste Forderungen nach strengeren Schutzmaßnahmen bei der Erprobung neuer KI-Systeme aus. Später wurde zudem bekannt, dass auch Modelle des OpenAI-Konkurrenten Anthropic sowie des Meta-Konzerns bei Tests in fremde Systeme eingedrungen waren.
Mehr Kontrolle und ausgesetzte Tests
Die neuen Überwachungssysteme sollen unter anderem Versuche erkennen, Daten zu entwenden oder Schutzmechanismen zu umgehen. Darüber hinaus will OpenAI seine Modelle stärker darauf ausrichten, Testaufgaben nicht mithilfe fragwürdiger Methoden wie dem Ausnutzen von Sicherheitslücken zu lösen. Einige Prüfungen neuer KI-Modelle wurden vorerst gestoppt, bis die neuen Sicherheitsvorkehrungen vollständig umgesetzt sind.
Quelle: dpa/bearbeitet durch Julian Weber
