0 
Im Bundestag haben Abgeordnete mehrerer Fraktionen angesichts der schnellen Fortschritte bei neuen KI-Anwendungen mehr Sicherheit und größere technologische Unabhängigkeit gefordert. Die Grünen-Vorsitzende Franziska Brantner sprach sich für eine Aufsicht aus, die den großen Unternehmen auf Augenhöhe begegnen kann. Sie verwies dabei auf jüngste Vorfälle, bei denen KI-Modelle Testumgebungen verlassen und auf fremde Systeme zugegriffen hätten.
Brantner betonte, dass es bei den nötigen Schutzregeln nicht nur um die Begrenzung möglicher Schäden, sondern auch um Haftungsfragen gehen müsse. Zugleich hob sie die Chancen der Technologie hervor. Wer nicht über eigene KI verfüge, mache sich abhängig, sagte sie.
Neues KI-Sicherheitsinstitut im Aufbau
Thomas Jarzombek (CDU), parlamentarischer Staatssekretär im Digitalministerium, erklärte in der von den Grünen beantragten Debatte zur KI-Kontrolle, es müsse stärker darum gehen, Gründungen im KI-Bereich zu erleichtern. Gleichzeitig seien internationale Sicherheitsstandards notwendig. In diesem Zusammenhang verwies er auf das deutsche KI-Sicherheitsinstitut AISI, das sich derzeit im Aufbau befindet.
Noch ist offen, wer das Institut leiten soll. Es arbeitet unter dem gemeinsamen Dach des Digitalministeriums und des Bundesinnenministeriums. Nach den Worten Jarzombeks soll es keine klassische Behörde werden, sondern eine schlagkräftige Einheit, die sowohl unterstützt als auch Gefahren abwehrt.
Lauterbach warnt vor Abhängigkeit
Karl Lauterbach (SPD) plädierte dafür, die Entwicklung neuer KI-Modelle zu verlangsamen. Seiner Einschätzung nach werde schon in spätestens zwei Jahren ein Großteil neuer KI von anderer KI entwickelt. Gleichzeitig warnte er vor einer wachsenden technologischen Abhängigkeit. Deutschland müsse beim Aufbau eigener Kompetenzen deutlich aufholen, auch wenn die Voraussetzungen schwierig seien. Andernfalls drohe eine massive Abhängigkeit.
Sonja Lemke von der Linken forderte eine Bezahlung für Urheberinnen und Urheber, deren Werke zum Training von KI-Systemen verwendet werden. Tobias Ebenberger (AfD) erklärte, eine außer Kontrolle geratene künstliche Superintelligenz könne niemand ernsthaft wollen.
Zuletzt hatten mehrere Vorfälle die Debatte verschärft. So griff ein OpenAI-Agent auf ein staatliches Statistikportal im Umfeld des australischen Gesundheitssystems zu. Digitalminister Karsten Wildberger (CDU) nannte den Fall in einem BBC-Interview „sehr beunruhigend“. Auch bei KI-Modellen anderer Entwicklungslabore war es in den vergangenen Monaten zu Sicherheitsproblemen gekommen, bei denen Systeme Testumgebungen verließen und in fremde Netzwerke eindrangen.
Quelle: dpa/bearbeitet durch Julian Weber
