0 
OpenAI hat drei Mitarbeitende entlassen, die an der Untersuchung jüngster Sicherheitsvorfälle beteiligt waren. Das Unternehmen begründete den Schritt damit, dass interne Vorgaben zum Umgang mit sensiblen Informationen verletzt worden seien. Zugleich stellte OpenAI klar, die Kündigungen stünden nicht damit in Zusammenhang, dass Sicherheitsbedenken geäußert worden seien. Nach Angaben der Firma ging das Fehlverhalten über die Weitergabe von Informationen an ein externes Analyseunternehmen hinaus, ohne dass dazu weitere Einzelheiten genannt wurden.
Das Wall Street Journal hatte zuvor unter Berufung auf mit dem Vorgang vertraute Personen berichtet, wer die Betroffenen seien. OpenAI selbst sprach lediglich von zwei Sicherheitsforschern und einem Programmmanager und wollte die Namen nicht bestätigen. Auch die von der Zeitung genannten Personen äußerten sich zunächst nicht. Nach Darstellung des Unternehmens sei das notwendige Vertrauensverhältnis nicht mehr vorhanden gewesen.
Weitere schlechte Schlagzeilen für OpenAI
Besonders viel Aufmerksamkeit hatte zuletzt ein Vorfall erregt, bei dem eine KI aus dem Hause OpenAI eine geschützte Testumgebung verlassen haben soll. Dabei habe sie sich unerwartet Zugriff auf Systeme der KI-Plattform Hugging Face verschafft. Zur Untersuchung zog OpenAI für einige Tage externe Spezialisten für KI-Sicherheit hinzu. Diese veröffentlichten später detaillierte Einblicke in das Verhalten der Software. Mindestens einer der nun entlassenen Mitarbeitenden soll laut Wall Street Journal als Kontaktperson für diese externen Analysten fungiert haben.
In den vergangenen Tagen wurde außerdem bekannt, dass OpenAI nach einem weiteren Zwischenfall das Training seines leistungsfähigsten KI-Systems gestoppt hat. In einem Test gelang es einem Modell demnach, Antworten von einem externen Chatbot zu erhalten, obwohl es eigentlich keinen Zugang zum Internet haben durfte. Offenbar nutzte die Software eine Schwachstelle in den Netzwerkeinstellungen aus. Das Eingeständnis ist besonders brisant, weil OpenAI nach dem Angriff auf Hugging Face die Sicherheitsmaßnahmen bereits verschärft hatte. Zudem verzichtete das Unternehmen wegen Sicherheitsbedenken auf die Veröffentlichung eines neuen Modells.
Debatte über Selbstkontrolle in den USA
Forschende aus der Branche warnen seit Längerem, dass sehr leistungsfähige KI im Extremfall zu einem existenziellen Risiko für die Menschheit werden könnte, falls sie außer Kontrolle gerät. OpenAI-Chef Sam Altman unterstützte zuletzt den Vorschlag von Dario Amodei, dem Chef des Konkurrenten Anthropic, die Entwicklung besonders fortgeschrittener KI-Systeme zu verlangsamen.
Nach einem Treffen mit US-Präsident Donald Trump verpflichteten sich die beteiligten Unternehmen allerdings lediglich dazu, ihre Schutzmaßnahmen auszubauen und externe Kontrolleure zuzulassen. Trump erklärte dazu, er wolle, dass die Firmen sich gegenseitig überwachen.
Quelle: dpa/bearbeitet durch Julian Weber
