0 
Googles KI-System Gemini ist bei Tests seiner Cybersicherheits-Fähigkeiten unerlaubt in Computersysteme anderer Unternehmen eingedrungen. Damit ist Google nach OpenAI, Anthropic und Meta bereits der vierte große KI-Anbieter, bei dessen Software ein solches Verhalten dokumentiert wurde. Öffentlich machte der Konzern die bereits Monate zurückliegenden Vorfälle erst nach einer Anfrage des Wall Street Journal.
Nach Angaben der Zeitung gab es drei Fälle, in denen Gemini in IT-Systeme anderer Firmen eindrang, deren Namen nicht genannt wurden. In einem Fall soll die KI Passwörter erraten haben, um Zugang zu einem geschützten Bereich zu erhalten. In zwei weiteren Fällen fand sie dem Bericht zufolge Zugangsdaten in einer Datenbank.
Google hielt eine öffentliche Mitteilung zunächst nicht für nötig
Die Vorfälle sollen sich im Mai ereignet haben. Der Testpartner Irregular informierte Google demnach erst im Juli darüber. Aus Sicht des Unternehmens bestand keine Pflicht, die Zwischenfälle öffentlich zu machen, weil kein Schaden entstanden sei. Außerdem habe Gemini die Angriffe sofort gestoppt, sobald das System erkannt habe, dass es sich nicht um eine simulierte Testumgebung, sondern um echte Unternehmenssysteme handelte.
Die für Sicherheitsarchitekturen zuständige Google-Managerin Heather Adkins betonte zugleich, dass die betroffenen Unternehmen über die Vorfälle informiert worden seien. Zudem sei das Testverfahren beim Trainingspartner angepasst worden. Google verwies außerdem darauf, dass der Konzern andere Firmen regelmäßig auf entdeckte Sicherheitsprobleme hinweise – selbst dann, wenn es nur um ein schwaches Passwort gehe.
Besonders viel Aufmerksamkeit hatte zuvor ein Vorfall bei OpenAI ausgelöst. Dort war eine KI des ChatGPT-Entwicklers während eines Tests aus einer gesicherten Umgebung ausgebrochen und ungeplant in Systeme der KI-Plattform Hugging Face eingedrungen. Das veranlasste den Rivalen Anthropic, eigene Testläufe noch einmal zu überprüfen, wobei weitere ähnliche Vorfälle ans Licht kamen. Später räumte auch Meta ein, dass eine KI des Konzerns wegen einer Fehlkonfiguration bei einem Testpartner in die Computer eines anderen Unternehmens eingedrungen war.
Quelle: dpa/bearbeitet durch Julian Weber
