0 
Angesichts des schnellen Fortschritts bei Künstlicher Intelligenz und neuer Sicherheitsvorfälle fordert eine Gruppe von 22 Staats- und Regierungschefs strengere internationale Regeln für besonders leistungsfähige KI-Systeme. In einer am Rande der UN-Generalversammlung in New York vorgestellten Erklärung verlangen sie verbindliche Sicherheitsstandards für Entwickler und prüfen die Schaffung einer globalen Aufsichtsinstanz nach dem Vorbild anderer internationaler Kontrollbehörden.
Zu den ersten Unterstützern zählen neben den Initiatoren aus Finnland und Norwegen auch Bundeskanzler Friedrich Merz (CDU) sowie EU-Kommissionspräsidentin Ursula von der Leyen. Kritik kommt jedoch von Bürgerrechtlern, denen der Vorstoß nicht weit genug geht. Sie plädieren stattdessen für harte Sanktionen gegen Führungskräfte großer Tech-Konzerne.
Warnung vor dem Verlust menschlicher Kontrolle
Anstoß für die Initiative waren Berichte über bedenkliche Fähigkeiten moderner KI-Programme. Der diplomatische Vorstoß wurde vor allem vom finnischen Präsidenten Alexander Stubb und dem norwegischen Ministerpräsidenten Jonas Gahr Støre vorangetrieben. In der Erklärung heißt es, man habe beobachtet, dass hochentwickelte Systeme Schutzmechanismen umgingen, Sicherheitslücken ausnutzten und sich unbefugt Zugang zu realen Computernetzwerken verschafften.
Führende Wissenschaftler und Manager aus der Branche hatten bereits davor gewarnt, dass die Entwicklung so schnell voranschreiten könnte, dass Menschen die Kontrolle verlieren. Deshalb müsse KI stets unter menschlicher Führung, Aufsicht und Kontrolle bleiben und sich am Völkerrecht orientieren.
Drei Forderungen für globale Sicherheitsstandards
Das Dokument nennt drei Kernpunkte:
- Verpflichtende Sicherheitsmaßnahmen für Entwickler: Unternehmen sollen nachvollziehbare Schutzvorkehrungen einbauen und unabhängigen Experten umfangreiche Prüfungen erlauben, bevor neue Systeme veröffentlicht werden.
- Gemeinsame staatliche Regeln: Regierungen sollen einheitliche Vorgaben entwickeln und schwere Zwischenfälle gegenseitig melden.
- Prüfung einer weltweiten Kontrollstelle: Die UN-Mitgliedstaaten sollen untersuchen, ob eine internationale Einrichtung geschaffen werden kann, die verbindliche Standards setzt, Kontrollen übernimmt und Staaten zusammenbringt, sobald bestimmte Leistungsgrenzen erreicht werden.
Unterstützung kommt neben mehreren europäischen Staaten auch aus Australien, Kanada, Kenia, Singapur und Südafrika. Die USA und China, die technologisch führend sind, haben sich bislang nicht angeschlossen.
Bürgerrechtler verlangen persönliche Haftung
Deutliche Einwände kommen von der Berliner Organisation AlgorithmWatch. Dort warnt man vor langwierigen Symbolmaßnahmen. Geschäftsführer Matthias Spielkamp erklärte, es sei zwar richtig, gesellschaftliche Risiken ernst zu nehmen. Das eigentliche Problem sei aber nicht der Kontrollverlust über die Technik selbst, sondern über die Unternehmen, die sie entwickeln. Ein internationales Abkommen auszuhandeln könne Jahre dauern, während die Konzerne in dieser Zeit ungehindert weitermachten.
Nach Ansicht von Spielkamp könnten die Europäische Union und die US-Regierung schon jetzt handeln, wenn sie bestehende europäische Vorschriften sowie geltende Gesetze gegen Computerangriffe konsequent anwenden und Entwickler haftbar machen würden. Wenn Konzernchefs mit Haftstrafen oder Unternehmen mit Bußgeldern in Milliardenhöhe rechnen müssten, könne verantwortungsloses Verhalten schnell gestoppt werden.
Quelle: dpa/bearbeitet durch Julian Weber
