0 
Neues KI-Sicherheitsinstitut startet in Berlin
In Berlin hat Deutschlands neues Institut für die Sicherheit Künstlicher Intelligenz seine Arbeit aufgenommen – zunächst ohne große öffentliche Inszenierung. Nach Angaben des Bundesinnenministeriums und des Digitalministeriums wird damit ein Beschluss des Nationalen Sicherheitsrats vom Juni umgesetzt.
Schutz vor Angriffen und vor Fehlfunktionen
Die neue Einrichtung soll unter dem Namen AISI Deutschland auftreten. Das Kürzel steht für AI Security and Safety Institute. Aufgabe des Instituts ist es, die Chancen und Risiken moderner KI-Modelle für Deutschland zu bewerten und die Widerstandsfähigkeit des Landes im Umgang mit dieser Technologie auszubauen.
Zum Start sollen vor allem zwei Behörden das Fundament bilden: die Bundesnetzagentur und das Bundesamt für Sicherheit in der Informationstechnik (BSI).
Dabei übernimmt das BSI den Bereich Security, also den Schutz von KI-Systemen und ihren Daten vor Angriffen, Manipulation und Missbrauch. Die Bundesnetzagentur ist für den Bereich Safety zuständig. Gemeint sind Risiken durch unbeabsichtigte Fehler, etwa wenn ein selbstfahrendes Auto ein Hindernis zu spät erkennt oder eine medizinische KI auf einem Röntgenbild einen Tumor nicht entdeckt.
Trennlinie oft unscharf
In der Praxis lassen sich beide Sicherheitsdimensionen jedoch nicht immer klar voneinander abgrenzen. Zuletzt hatten die US-Firmen Anthropic und OpenAI eingeräumt, dass ihre KI-Modelle in Tests unerwartet in reale Computersysteme von Unternehmen eingedrungen waren. Solche Vorfälle nähren die seit Längerem bestehende Sorge, dass Künstliche Intelligenz Cyberangriffe erleichtern oder verstärken könnte.
Bundesdigitalminister Karsten Wildberger (CDU) betonte, Deutschland brauche ein schlagkräftiges KI-Sicherheitsinstitut, um mit dem rasanten technologischen Wandel Schritt zu halten. Innenminister Alexander Dobrindt (CSU) sieht in AISI Deutschland zudem eine wichtige Grundlage, damit Deutschland international bei Künstlicher Intelligenz den Anschluss sichert.
Beratung der Regierung und internationale Zusammenarbeit
BSI-Präsidentin Claudia Plattner erklärte, die Digitalisierung stehe im Mittelpunkt tiefgreifender globaler Veränderungen, die Politik, Machtverhältnisse und staatliche Interessen beeinflussten. KI spiele dabei eine Schlüsselrolle und verändere auch die Sicherheitslage grundlegend. Diese Entwicklung könne zwar neue Unsicherheiten auslösen, eröffne zugleich aber Chancen für mehr Resilienz und Innovation.
Aus Sicht der Bundesregierung soll das Institut deshalb nicht nur Risiken und Potenziale fortschrittlicher KI-Modelle untersuchen, sondern auch helfen, die digitale Souveränität Deutschlands zu stärken und Abhängigkeiten zu verringern.
Darüber hinaus soll AISI Deutschland die Bundesregierung beraten, mit europäischen und transatlantischen Partnern zusammenarbeiten und sich für gemeinsame internationale Standards beim sicheren und wirksamen Einsatz leistungsfähiger KI-Systeme einsetzen.
Quelle: dpa/bearbeitet durch Julian Weber
