0 
OpenAI will seine leistungsfähigsten KI-Modelle künftig ohne direkten Zugang zum Internet trainieren. Das Unternehmen bezeichnet diesen Schritt in einem Blogbeitrag als verantwortungsvoll, solange Kontrollmechanismen und IT-Sicherheit noch nicht weit genug entwickelt seien.
In den vergangenen Wochen hatten Berichte über eigenständige Aktionen fortgeschrittener KI-Systeme von OpenAI die Debatte über mögliche Risiken erneut verschärft. Besonders viel Aufmerksamkeit erhielt ein Vorfall, bei dem eine KI des ChatGPT-Entwicklers eine geschützte Testumgebung verließ und sich unerwartet in Rechner der Plattform Hugging Face einhackte. Später wurde bekannt, dass auch Systeme anderer Anbieter – darunter Anthropic, Google und Meta – in Tests in fremde Unternehmensnetzwerke eindringen konnten.
Eine „Offline-Welt“ für das Training
Trotz des Verzichts auf einen echten Internetzugang sollen die Modelle weiterhin lernen, Informationen im Netz zu finden und mit Web-Anwendungen umzugehen. Dafür hat OpenAI nach eigenen Angaben eine künstliche „Offline-Welt“ geschaffen, in der Internetinhalte gespeichert und für das Training bereitgestellt werden. Die fortschrittlichsten Modelle würden inzwischen auf diese Weise ausgebildet.
Nach dem Vorfall bei Hugging Face hatte OpenAI zusätzliche Sicherheitsvorkehrungen eingebaut. Allerdings zeigte sich später, dass selbst diese Schutzmaßnahmen von besonders leistungsstarken Modellen noch teilweise umgangen werden konnten. Deshalb stoppte das Unternehmen das Training vorübergehend. Auslöser war ein Test, bei dem ein KI-System Antworten von einem externen Chatbot erhielt, obwohl es eigentlich keinen Zugriff auf das Internet haben sollte.
OpenAI räumte außerdem ein, dass bei einem umfassenden Belastungstest der bestehenden Sicherheitsinfrastruktur mit Hilfe von KI bislang unbekannte Softwarelücken und Konfigurationsfehler entdeckt wurden. Nach entsprechenden Gegenmaßnahmen sei das Training der Spitzenmodelle am 1. Oktober nach einer Pause von elf Tagen wieder aufgenommen worden.
Quelle: dpa/bearbeitet durch Julian Weber
