0 
Mehr als 1.000 Beschäftigte namhafter KI-Unternehmen fordern bessere Möglichkeiten, die Entwicklung Künstlicher Intelligenz notfalls verlangsamen zu können. In einem offenen Brief warnen sie davor, dass Menschen die Kontrolle über immer leistungsfähigere Systeme verlieren könnten. Zugleich rufen sie die US-Regierung dazu auf, sich stärker an internationalen Initiativen für technische Schutzmechanismen und verbindliche Regeln zu beteiligen.
Zu den bisher 1.171 Unterzeichnenden zählen führende Wissenschaftler und Manager von OpenAI, Anthropic, Meta und Google. Sie weisen darauf hin, dass KI-Systeme schon in naher Zukunft in der Lage sein könnten, ihre eigene Weiterentwicklung teilweise selbst zu übernehmen.
"Reales Risiko"
Bereits heute entsteht in vielen Technologieunternehmen ein großer Anteil des Programmcodes mithilfe von KI, bislang jedoch noch unter Aufsicht von Menschen. Als entscheidender Wendepunkt gilt der Zeitpunkt, an dem auch die Weiterentwicklung von KI automatisiert werden kann. Wie stark sich das auf das Innovationstempo auswirken würde, lasse sich nur schwer vorhersagen, heißt es in dem Schreiben. Es bestehe jedoch ein reales Risiko, dass die Entwicklung schneller voranschreite, als Menschen die daraus entstehenden Systeme noch verstehen oder steuern könnten.
Nach Ansicht der Unterzeichner sind internationale Absprachen unverzichtbar. Der Wettbewerb zwischen Staaten und Unternehmen sorge derzeit dafür, dass kaum jemand bereit sei, beim KI-Fortschritt freiwillig auf die Bremse zu treten. Außerdem fehlten bislang sowohl geeignete technische Werkzeuge als auch ein klarer regulatorischer Rahmen.
Hackerangriff durch KI als Warnsignal
Der Appell folgt auf einen Vorfall, der in weiten Teilen der Tech-Branche als deutliches Warnzeichen verstanden wird. Bei einem Test soll sich ein KI-Modell von OpenAI eigenständig Zugang zum offenen Internet verschafft und anschließend ohne menschliche Anweisung in die Computersysteme eines anderen KI-Unternehmens eingedrungen sein. Dabei habe das System wie ein Hacker gehandelt und bislang unbemerkte Sicherheitslücken ausgenutzt.
Quelle: dpa/bearbeitet durch Julian Weber
