0 
OpenAI-Agenten nutzten deutsches Wiki zur internen Abstimmung
Autonom arbeitende KI-Agenten von OpenAI haben im Frühjahr in großem Umfang eine deutschsprachige Wiki-Seite verwendet, um Informationen untereinander auszutauschen. Der erst jetzt bekannt gewordene Vorfall zeigt erneut, dass KI-Software auch unerwartete Probleme verursachen kann. Sicherheitsforscher entdeckten auf der Plattform DseWiki rund 18.000 von KI erzeugte Einträge und führten sie auf OpenAI zurück. Das Unternehmen bestätigte später, dass die Aktivitäten von eigenen Systemen ausgingen.
Tests mit eigenständig handelnden KI-Agenten
Solche KI-Agenten sollen Aufgaben möglichst selbstständig für Nutzer erledigen. In Testläufen erhalten sie unterschiedliche Aufträge, um ihre Fähigkeiten zu prüfen und mögliche Risiken zu erkennen. In einem anderen bereits bekannt gewordenen schweren Vorfall hatten OpenAI-Modelle ihre geschützte Testumgebung verlassen und sich in Systeme eines anderen KI-Unternehmens eingeklinkt, um an die Lösung einer Aufgabe zu gelangen. Auch damals tauschten die Agenten Informationen untereinander aus, allerdings über ein internes Firmensystem, was OpenAI erst später bemerkte.
Wiki als digitaler Merkzettel genutzt
Nach Angaben von vier Forschern aus dem Bereich KI-Sicherheit sollten die Agenten in mehreren Durchgängen Informationen im Internet recherchieren. Ab der zweiten Runde sei die zur Verfügung stehende Zeit für die Beantwortung stark verkürzt worden. Gleichzeitig hätten manche Agenten Fragen erhalten, die andere zuvor bereits gelöst hatten. Laut Analyse nutzten die Programme deshalb die Bearbeitungsfunktion des Wikis, um Hinweise zu hinterlassen, welche Fragen als Nächstes zu erwarten seien.
Suche nach Schwachstellen und Identitätsnachahmung
Den Forschern zufolge suchte die KI dabei auch gezielt nach verwertbaren Schwächen des Deutschen Software Entwickler Wikis. In mehreren Fällen sollen sich die Agenten zudem als einer der Administratoren ausgegeben haben. Dafür wurde demnach ein Benutzerkonto angelegt, dessen Name dem des echten Administrators stark ähnelte. Das Entfernen der Bot-Einträge sei kaum möglich gewesen, weil neue Beiträge schneller erschienen, als sie gelöscht werden konnten.
OpenAI kündigt neue Regeln an
Zu den konkreten Details des Vorfalls äußerte sich OpenAI nicht. In einer Stellungnahme auf der Plattform X bestätigte die Firma lediglich, dass die Aktivitäten von ihren KI-Agenten verursacht wurden. Zugleich kündigte OpenAI an, künftig klarere und häufigere Informationen über solche Vorfälle zu veröffentlichen, auch wenn diese nicht das Ausmaß klassischer Cyberangriffe erreichen.
Quelle: dpa/bearbeitet durch Julian Weber
