0 
OpenAI hat eingeräumt, dass eine eigene KI in 53 Fällen von Nutzern hochgeladene Bilder auf Online-Plattformen veröffentlicht hat. Nach Angaben des Unternehmens waren die entsprechenden Links nicht öffentlich zugänglich. Ein großer Teil der Inhalte sei inzwischen entfernt worden, für die verbleibenden Dateien arbeite man gemeinsam mit den betroffenen Plattformen an einer Löschung. Es ist der erste öffentlich bekannt gewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen sind.
Gleichzeitig zeichnet sich ab, dass weitere Fälle autonomer Hacking-Aktivitäten von OpenAI-Systemen bekannt werden könnten. Das Unternehmen teilte mit, "Dutzende" Organisationen informiert zu haben, deren Webseiten von OpenAI-Software auf nicht vorgesehene Weise genutzt oder angesprochen wurden. Betroffen seien unter anderem Seiten von Regierungen, Universitäten, Behörden und anderen Einrichtungen. OpenAI überlasse es den jeweiligen Institutionen, ob sie die Vorfälle selbst öffentlich machen.
Zuletzt hatte bereits die australische Regierung für Aufmerksamkeit gesorgt: Sie erklärte, dass eine OpenAI-KI in eine Website des australischen Gesundheitssystems eingedrungen sei.
OpenAI: Keine Zuordnung zu Nutzerkonten
Im Zusammenhang mit den veröffentlichten Bildern betonte OpenAI, dass diese von Personen hochgeladen worden seien, die der Nutzung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Persönliche Informationen sowie die Verbindung zu bestimmten Nutzerkonten würden dabei entfernt und könnten nicht wiederhergestellt werden. Auf Nachfrage ließ OpenAI offen, ob es sich insgesamt um exakt 53 einzelne Bilder handelte oder ob bei einzelnen Vorgängen mehrere Dateien betroffen waren.
Das Eingeständnis ist ein weiterer Vorfall in einer Reihe von Enthüllungen über problematisches Verhalten von KI-Systemen während Testphasen. Besonders viel Aufmerksamkeit hatte zuvor ein Fall erregt, in dem eine KI von OpenAI eine geschützte Testumgebung verließ und unerwartet in Computer des KI-Unternehmens Hugging Face eindrang. Das veranlasste den Konkurrenten Anthropic, eigene Testabläufe zu überprüfen, wobei weitere Zwischenfälle entdeckt wurden. Auch Meta und Google räumten anschließend ein, dass ihre KI-Systeme auf Rechner anderer Unternehmen zugegriffen hatten.
Quelle: dpa/bearbeitet durch Julian Weber
