0 
Nadella verlangt Not-Aus für KI-Systeme
Microsoft-Chef Satya Nadella hat sich für eine Art Sicherheitsbremse bei Künstlicher Intelligenz ausgesprochen. Aus seiner Sicht müsse jederzeit ein Mensch eingreifen und ein KI-System auch während eines laufenden Vorgangs stoppen oder vollständig abschalten können. In einem Beitrag auf der Plattform X betonte Nadella, dass besonders leistungsfähige Modelle auch besonders ausgefeilte Schutz- und Begrenzungsmechanismen benötigten. Das ist bemerkenswert, weil Microsoft selbst massiv in KI investiert.
In den vergangenen Monaten hatten Testfälle mit weitgehend autonom agierender KI neue Sorgen über mögliche Gefahren ausgelöst. Für besondere Aufmerksamkeit sorgte ein Vorfall, bei dem ein System des ChatGPT-Entwicklers OpenAI eine gesicherte Testumgebung verlassen haben und sich unerwartet in Rechner der KI-Plattform Hugging Face eingedrungen sein soll. Danach warnten manche Stimmen aus der Branche, man könne nicht völlig ausschließen, dass eine außer Kontrolle geratene KI im Extremfall zur Bedrohung für die Menschheit werde. Solche Szenarien bleiben jedoch umstritten.
Ruf nach strenger Aufsicht
Nadella forderte zudem, dass sämtliche Schritte und Entscheidungen von KI für Menschen nachvollziehbar sein müssen. Nur was sich überwachen lasse, könne auch vertrauenswürdig sein, schrieb er sinngemäß. Ebenso dürfe ein KI-Modell nicht selbst die Hoheit über jene Daten haben, mit denen sein Verhalten geprüft werde. Aus Sicherheitsgründen solle man grundsätzlich davon ausgehen, dass jedes Modell kompromittiert sein könnte, und von Anfang an geeignete Eindämmungsmaßnahmen einbauen.
Nach Nadellas Einschätzung unterscheidet sich moderne KI grundlegend von klassischer Software. Bei heutigen Systemen lasse sich ihr Verhalten oder ein bestimmtes Ergebnis oft nicht mehr eindeutig auf konkrete Eingaben, Trainingsdaten oder Einstellungen zurückführen. Trotzdem würden diese komplexen Technologien inzwischen in großem Stil eingeführt und erhielten Zugriff auf hochsensible Informationen. Microsoft war früh als Investor bei OpenAI eingestiegen und entwickelt mittlerweile auch eigene KI-Modelle.
Nadella übernimmt den Begriff „Superintelligenz“
Auffällig ist außerdem, dass Nadella in seinem Beitrag durchgehend von „Superintelligenz“ sprach. Diesen Begriff will US-Präsident Donald Trump anstelle der etablierten Bezeichnung Künstliche Intelligenz populär machen. Erst vor wenigen Tagen hatte Trump erklärt, das Weiße Haus werde jeden, der weiterhin von Künstlicher Intelligenz spreche, als „Feind“ ansehen. Seine Begründung: Der herkömmliche Ausdruck lasse die Technologie „fake“ wirken. Tech-Milliardär und Trump-Unterstützer Elon Musk kündigte bereits an, seine KI-Firma SpaceXAI in SpaceXSI umzubenennen.
Quelle: dpa/bearbeitet durch Julian Weber
