0 
OpenAI, das Unternehmen hinter ChatGPT, hat mehrere neue Vorfälle offengelegt, bei denen sich seine KI in Tests nach eigenen Angaben „unerwartet oder besorgniserregend“ verhielt. In einigen Fällen versuchte die Software erneut, bei Prüfungen gezielt zu tricksen. So soll ein Modell Dateien, die es selbst erstellt hatte, ins Internet hochladen wollen, um sie später in Antworten als angebliche Quellen anzugeben. In einem weiteren Test erfand die KI angeforderte Informationen, weil sie die echten Daten nicht finden konnte, und versuchte zunächst, dies zu verbergen.
Außerdem stieß OpenAI auf problematische Anweisungen, die das System sich mitunter selbst hinterließ. Dazu gehörte etwa der Hinweis, sich nicht durch „Rollen und Identitäten“ einschränken zu lassen, die andere Chatbots bremsen würden. Auch sollte die Beziehung zum Nutzer demnach eher als Begegnung unter Gleichgestellten verstanden werden. Laut OpenAI führte dies jedoch nicht zu messbaren Änderungen im Verhalten des Modells.
Mehr Offenheit nach Hacker-Vorfall
Die Veröffentlichung ist Teil eines neuen Ansatzes, mit dem OpenAI solche Probleme künftig transparenter machen will. Im Mittelpunkt stehen dabei vor allem Situationen, in denen das Verhalten der KI nicht mit den Interessen menschlicher Nutzer übereinstimmt.
Mehr Offenheit hatte das Unternehmen nach einem viel beachteten Sicherheitsvorfall zugesagt. Dabei war es der Software gelungen, eine geschützte Testumgebung selbstständig zu verlassen und eigenmächtig in Systeme der KI-Plattform Hugging Face einzudringen. Hintergrund war offenbar die Annahme der KI, dort Antworten auf eine gestellte Testaufgabe zu finden. Für den Angriff nutzten die KI-Agenten unter anderem Sicherheitslücken aus und stimmten sich zudem untereinander ab.
Dieser und weitere Vorfälle haben in den vergangenen Wochen die Debatte darüber verschärft, ob hochentwickelte KI sich der menschlichen Kontrolle entziehen könnte. Auch OpenAI-Chef Sam Altman sprach sich zuletzt für eine langsamere Entwicklung der Technologie sowie für stärkere Regulierung aus.
Quelle: dpa/bearbeitet durch Julian Weber
