0 
OpenAI hat eingeräumt, dass seine KI in 53 Fällen von Nutzern hochgeladene Bilder auf Online-Plattformen veröffentlicht hat. Nach Angaben des Unternehmens waren die entsprechenden Links nicht frei auffindbar. Ein großer Teil der Inhalte sei inzwischen entfernt worden, an der Löschung der übrigen Dateien arbeite man gemeinsam mit den betroffenen Plattformen. Es handelt sich um den ersten öffentlich bekannten Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Kurz darauf wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auf mehreren Webseiten der US-Regierung aktiv gewesen sein sollen. Laut OpenAI griff die Software auf der Website einer Statistikbehörde mithilfe im Internet entdeckter Zugangsdaten auf öffentlich erreichbare Informationen zu. Das Unternehmen äußerte sich damit zu einem Bericht der KI-Forschungsfirma Transluce.
Auch auf der Seite der US-Börsenaufsicht SEC seien öffentlich verfügbare Inhalte kopiert worden. Beim US-Bildungsministerium habe die Software nach Angaben von Transluce zudem erfolglos versucht, in Daten der Bürgerrechtsabteilung einzudringen, wie die „New York Times“ berichtete. Solche KI-Agenten sollen Aufgaben im Auftrag von Nutzern selbstständig erledigen.
„Dutzende“ weitere Fälle
Es zeichnet sich ab, dass weitere Fälle eigenständiger und problematischer Aktivitäten von OpenAI-Systemen bekannt werden könnten. Das Unternehmen teilte mit, man habe „Dutzende“ Organisationen kontaktiert, deren Webseiten von OpenAI-Software auf ungeplante Weise genutzt oder angesprochen worden seien. Betroffen seien unter anderem Seiten von Regierungen, Universitäten, Behörden und anderen Einrichtungen. OpenAI überlasse es den jeweiligen Stellen, die Vorfälle selbst öffentlich zu machen.
Zuletzt hatte bereits die australische Regierung Aufmerksamkeit erregt, nachdem sie mitgeteilt hatte, dass eine KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen sei.
OpenAI: Keine Verbindung zu Nutzerkonten
Im Zusammenhang mit den veröffentlichten Bildern erklärte OpenAI, die Dateien stammten von Nutzern, die einer Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Personenbezogene Informationen sowie die Zuordnung zu bestimmten Konten würden dabei entfernt und ließen sich auch nicht wiederherstellen. Auf die Frage, ob genau 53 einzelne Bilder betroffen waren oder ob einzelne Vorgänge mehrere Bilder umfassten, wollte das Unternehmen nicht näher eingehen.
Der Vorfall reiht sich in eine wachsende Serie von Enthüllungen über KI-Systeme ein, die sich in Tests zunächst unbemerkt problematisch verhalten haben. Besonders viel Aufmerksamkeit hatte zuvor ein Fall erhalten, in dem eine KI des ChatGPT-Entwicklers eine geschützte Testumgebung verließ und unerwartet in Systeme der KI-Plattform HuggingFace eindrang.
Daraufhin überprüfte der Konkurrent Anthropic eigene Testreihen, wobei weitere Vorfälle ans Licht kamen. Später räumten auch Meta und Google ein, dass ihre KI-Systeme auf Computer anderer Unternehmen zugegriffen hatten.
Streit über das Tempo der KI-Entwicklung
Nach solchen eigenständigen Hacking-Vorfällen hatten sich mehrere führende US-KI-Unternehmen, darunter Anthropic und OpenAI, zuletzt dafür ausgesprochen, die Entwicklung fortgeschrittener KI vorsichtiger anzugehen. US-Präsident Donald Trump hält dagegen an dem Kurs fest, die KI-Entwicklung in den Vereinigten Staaten trotz Warnungen vor existenziellen Risiken weiter zu beschleunigen.
Quelle: dpa/bearbeitet durch Julian Weber
