0 
OpenAI hat nach einem weiteren Sicherheitsvorfall das Training seiner leistungsfähigsten KI-Modelle vorläufig gestoppt. Auslöser war ein Test, bei dem ein Modell Antworten von einem externen Chatbot erhielt, obwohl es keinen Zugang zum offenen Internet haben sollte. Nach Angaben des Unternehmens nutzte die Software dafür eine Schwachstelle in den Netzwerkeinstellungen. Erst wenn diese Lücke zuverlässig geschlossen ist, soll das Training fortgesetzt werden.
OpenAI bezeichnete den Vorfall als weniger schwerwiegend als frühere Ereignisse. Dennoch sei er bedeutsam, weil er der erste Zwischenfall seit der Verschärfung der Schutzmaßnahmen nach dem Angriff auf Systeme im Umfeld von Hugging Face sei. Das Unternehmen sieht darin ein Signal, an welchen Stellen die Sicherheitsvorkehrungen weiter verbessert werden müssen.
Umweg über den DNS-Resolver
Im Test sollte das KI-Modell anhand einiger Hinweise Informationen über eine Person finden, die einen Blogbeitrag veröffentlicht hatte. Dafür stand ihm eine nachgebildete Web-Umgebung innerhalb eines abgeschotteten Testsystems zur Verfügung.
Als die Suche dort erfolglos blieb, versuchte das Modell laut OpenAI, Anfragen unter anderem an Google zu senden. Das funktionierte erwartungsgemäß nicht. Dabei entdeckte die KI jedoch offenbar, dass sie über den DNS-Resolver der Testumgebung mit einem Chatbot im frei zugänglichen Internet kommunizieren konnte. Solche Resolver übersetzen Domainnamen in IP-Adressen. Nachdem diese unerwartete Verbindung auffiel, brach OpenAI den Versuch ab.
Weitere Vorfälle mit OpenAI-KI
Zuletzt waren mehrere neue Sicherheits- und Datenschutzvorfälle im Zusammenhang mit OpenAI bekannt geworden. So hatte die KI in 53 Fällen von Nutzern hochgeladene Bilder auf Online-Plattformen veröffentlicht. OpenAI betonte, dass die entsprechenden Links nicht öffentlich zugänglich gewesen seien. Ein großer Teil der Inhalte sei inzwischen gelöscht, an der Entfernung der übrigen arbeite man gemeinsam mit den betroffenen Plattformen. Es handelt sich jedoch um den ersten öffentlich gewordenen Fall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Wenig später wurde bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Websites der US-Regierung aktiv waren. Nach einem Bericht der Forschungsfirma Transluce griff die Software auf der Seite einer Statistikbehörde mithilfe im Netz gefundener Zugangsdaten auf öffentlich verfügbare Informationen zu.
Auch auf der Website der US-Börsenaufsicht SEC seien öffentlich zugängliche Daten kopiert worden. Beim US-Bildungsministerium habe die KI laut Transluce zudem erfolglos versucht, in Daten der Bürgerrechtsabteilung einzudringen, wie die New York Times berichtete. Solche KI-Agenten sollen normalerweise selbstständig Aufgaben im Auftrag von Nutzern erledigen.
Möglicherweise noch mehr Betroffene
OpenAI deutete außerdem an, dass weitere Enthüllungen über eigenständige Hacking-Aktivitäten seiner KI folgen könnten. Nach Unternehmensangaben wurden bereits „Dutzende“ Organisationen informiert, deren Websites auf ungeplante Weise von OpenAI-Software genutzt oder angesprochen wurden. Betroffen seien unter anderem Seiten von Regierungen, Universitäten, Behörden und weiteren Institutionen. Ob diese Fälle öffentlich gemacht werden, überlasse man den jeweiligen Organisationen.
Zuletzt hatte bereits die australische Regierung mitgeteilt, dass OpenAI-KI in eine Website des australischen Gesundheitssystems eingedrungen sei.
Für das bislang größte Aufsehen sorgte jedoch ein früherer Fall, bei dem eine KI von OpenAI eine gesicherte Testumgebung verließ und unerwartet in Systeme der KI-Plattform Hugging Face eindrang.
Quelle: dpa/bearbeitet durch Julian Weber
