0 
Die Bundesregierung will Chancen und Risiken moderner KI-Modelle künftig mithilfe eines neuen Gremiums besser einschätzen. Wie die Regierung mitteilte, hat der Nationale Sicherheitsrat die Einrichtung eines KI-Sicherheitsinstituts beschlossen.
Das neue Institut für Künstliche Intelligenz hat bislang noch keinen endgültigen Namen. In der Anfangsphase soll es zunächst als virtuelle Institution arbeiten. Dabei sollen bestehende Strukturen und Kompetenzen der Bundesnetzagentur sowie des Bundesamts für Sicherheit in der Informationstechnik (BSI) genutzt werden. In einem zweiten Schritt ist ein eigener Standort vorgesehen, ein Zeitplan dafür steht aber noch nicht fest. Nach Angaben des BSI wollen das federführende Bundesinnenministerium und das Digitalministerium wegen des rasanten KI-Fortschritts zügig vorankommen.
Zwei Sicherheitsaspekte im Fokus
Das Institut soll Kompetenzen bündeln, um die Fähigkeiten aktueller KI-Modelle und die damit verbundenen Risiken umfassender zu analysieren. Im Mittelpunkt stehen dabei zwei Bereiche: KI-Security, also Schutz vor Angriffen und Cybersicherheit, sowie KI-Safety. Letzteres meint die Sicherheit von KI-Produkten selbst, damit Systeme keine problematischen oder gefährlichen Reaktionen auslösen.
Zugleich soll das Institut den Austausch mit vergleichbaren Einrichtungen im Ausland ausbauen und gemeinsam mit internationalen Partnern auf einheitliche Standards für den Umgang mit Künstlicher Intelligenz hinarbeiten.
Viele Staaten verfügen bereits über ähnliche Einrichtungen. In Deutschland lagen entsprechende Aufgaben bislang vor allem beim BSI. Ein internationales Treffen zur Abstimmung von KI-Standards fand zuletzt im Dezember in Seoul statt, an dem auch das BSI beteiligt war.
Wildberger kündigt Top-Experten an
Bundesdigitalminister Karsten Wildberger (CDU) sagte am Rande eines EU-Treffens in Luxemburg, das neue Institut solle mit „Top-Expertise von Experten auf Weltniveau“ ausgestattet werden. Diese Fachleute sollen neue Modelle rasch testen, bewerten und die Bundesregierung sowie die Verwaltung beraten. Als Vorbild gilt nach seinen Angaben das britische KI-Sicherheitsinstitut.
Als Beispiel nannte Wildberger Modelle wie Claude Mythos. Zuletzt hatte die vom US-Unternehmen Anthropic entwickelte Software Mythos für Aufmerksamkeit gesorgt, weil sie in verschiedenen Programmen teils über Jahrzehnte unentdeckte Sicherheitslücken aufgespürt haben soll. Nach Angaben der Bundesregierung lag für das neue Tool zunächst noch kein Zugang vor. Das BSI steht dazu nach eigenen Angaben mit Anthropic in Kontakt.
Wie aus dem Umfeld des BSI weiter verlautete, soll die Bundesnetzagentur in Deutschland zur zentralen Aufsichtsbehörde für die Durchsetzung der europäischen KI-Verordnung (AI Act) werden. Die Verordnung ist bereits im August 2024 in Kraft getreten, ein Teil der Regeln wird ab dem 2. August 2026 verbindlich. Kern des Regelwerks ist die Einteilung von KI-Modellen mit allgemeinem Verwendungszweck – etwa ChatGPT von OpenAI oder Gemini von Google – in Risikoklassen sowie Transparenz- und Kennzeichnungspflichten.
Gesetze zur Versorgung in Krisenzeiten auf dem Prüfstand
Darüber hinaus befasste sich der unter Leitung von Bundeskanzler Friedrich Merz (CDU) tagende Sicherheitsrat mit der sicherheitspolitischen Lage im Nahen und Mittleren Osten. Außerdem wurde beschlossen, bestehende Gesetze zur Versorgung der Bevölkerung und der Streitkräfte mit lebenswichtigen Gütern sowie zum Schutz kritischer Infrastruktur zu überprüfen und an aktuelle Herausforderungen anzupassen.
Die schwarz-rote Bundesregierung hatte den Nationalen Sicherheitsrat im vergangenen Jahr gegründet, um auf Krisen und Bedrohungen aller Art schneller und wirksamer reagieren zu können. Neben Mitgliedern der Bundesregierung und Sicherheitsbehörden können bei Bedarf auch Vertreter der Länder an den Beratungen teilnehmen.
Quelle: dpa/bearbeitet durch Julian Weber
