0 
KI-Anwendungen, mit denen sexualisierte Deepfakes missbräuchlich erstellt werden können, sollen in der Europäischen Union künftig verboten werden. Darauf haben sich Vertreter der Mitgliedstaaten und des Europäischen Parlaments bei einer Anpassung des EU-KI-Gesetzes verständigt, wie die zyprische EU-Ratspräsidentschaft mitteilte. Parallel dazu sollen andere KI-Vorgaben vereinfacht werden, damit Europas Wirtschaft das Potenzial Künstlicher Intelligenz besser nutzen kann.
Bevor die Änderungen gelten, müssen sie noch vom Plenum des Europaparlaments und vom Rat der Mitgliedstaaten bestätigt werden. Das gilt normalerweise als Formalie. Wird die Reform beschlossen, soll das Verbot ab 2. Dezember 2026 federführend vom EU-KI-Amt durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
Was unter Deepfakes zu verstehen ist
Bei Deepfakes werden Gesichter, Stimmen oder andere Merkmale mithilfe von KI so manipuliert, dass täuschend echte Inhalte entstehen. So kann etwa das Gesicht einer Frau in eine andere Aufnahme eingefügt werden, zum Beispiel in eine pornografische Szene. Auch Stimmen lassen sich künstlich nachahmen, sodass es wirkt, als habe jemand etwas gesagt oder getan, was in Wahrheit nie passiert ist. Durch moderne KI ist die Herstellung solcher Inhalte deutlich einfacher geworden.
Das geplante Verbot soll ausdrücklich auch KI-Anwendungen erfassen, mit denen Darstellungen sexuellen Kindesmissbrauchs erzeugt werden. Die FDP-Europaabgeordnete Svenja Hahn begrüßte die Einigung nach den bis tief in die Nacht dauernden Verhandlungen. KI dürfe kein Werkzeug für sexualisierte Gewalt gegen Kinder sein, erklärte sie.
Grok und Debatte über digitale Gewalt
Zusätzliche Aufmerksamkeit bekam das Thema auf EU-Ebene Ende vergangenen Jahres durch den KI-Chatbot Grok. Nutzer hatten die Software wiederholt dazu gebracht, Frauen auf Bildern digital zu entkleiden, bevor die Funktion eingeschränkt wurde. Hinter der Software steht die von Tech-Milliardär Elon Musk geführte US-Firma. An Silvester entschuldigte sich der Chatbot zudem selbst dafür, ein Bild von zwei Mädchen im Teenager-Alter in sexualisierten Outfits erstellt zu haben.
Auch in Deutschland gewann die Debatte zuletzt an Schärfe. Ende März erhob Collien Fernandes Vorwürfe gegen ihren Ex-Mann Christian Ulmen. Dabei geht es laut Berichten nicht um Deepfakes. Fernandes wirft ihm vor, Fake-Profile in ihrem Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für Ulmen gilt die Unschuldsvermutung.
Seit Bekanntwerden der Vorwürfe wird bundesweit intensiv über digitale und sexualisierte Gewalt gegen Frauen diskutiert. Zudem berichteten viele Medien darüber. Tausende Menschen gingen bei Demonstrationen auf die Straße und forderten besseren Schutz für Betroffene. In diesem Zusammenhang rückten auch sexualisierte Deepfakes und Deepfake-Pornografie erneut in den Fokus. Solches Material kursiert bereits seit Jahren im Netz.
Bereits bestehende EU-Regeln
Die geplante Verschärfung ist nicht der erste Schritt der EU gegen digitale Gewalt. Bereits bestehende Vorgaben sehen vor, dass das Anfertigen und Verbreiten manipulierter Darstellungen sexueller Handlungen ohne Zustimmung der Betroffenen in allen Mitgliedstaaten strafbar sein soll.
Diese EU-Richtlinie ist seit Mai 2024 in Kraft, wurde von Deutschland aber bislang nicht in nationales Recht umgesetzt. Dafür bleibt noch Zeit bis zum Sommer des kommenden Jahres. Bundesjustizministerin Stefanie Hubig (SPD) hatte zuletzt schärfere strafrechtliche Regeln und mehr Rechte für Betroffene angekündigt. Sie begrüßte nun auch die Einigung auf EU-Ebene und erklärte, Anbieter von KI-Tools müssten stärker in die Pflicht genommen werden.
Was die neuen Regeln genau verbieten sollen
Mit dem nun geplanten Verbot in der KI-Verordnung würde sich der Ansatz verschieben: Statt nur die Tat zu bestrafen, soll bereits das entsprechende KI-Werkzeug untersagt werden. Verhandlungsteilnehmer betonen allerdings, dass die Erstellung oder Bearbeitung von Bildern dadurch nicht übermäßig eingeschränkt werden solle.
Deshalb soll im Gesetz möglichst genau festgelegt werden, was als sexualisierter Inhalt gilt und was nicht. Nicht einvernehmliche Bikini-Bilder, wie sie teils über Grok erstellt und auf X verbreitet wurden, könnten demnach weiterhin erlaubt bleiben.
Verboten sein sollen dagegen unter anderem realistische Darstellungen von Intimbereichen – insbesondere von Genitalien, Anus, Po oder entblößten weiblichen Brüsten – sowie sexuell eindeutige Handlungen. Satirische Karikaturen sollen nach den Plänen ausgenommen bleiben.
Wasserzeichen und Pflichten für Anbieter verschoben
Ursprünglich hatte die EU-Kommission die Änderungen am KI-Gesetz vorgeschlagen, um Unternehmen und insbesondere die KI-Branche zu entlasten. Firmen hatten zuletzt mehr Zeit gefordert, um strengere Vorgaben umzusetzen. Diese zusätzliche Frist soll es nun geben.
Teile des Gesetzes, die das EU-KI-Amt ursprünglich schon ab August durchsetzen sollte, sollen für Anbieter von Chatbots und anderen Diensten wie ChatGPT oder Claude nun erst ab Dezember 2026 greifen. Spätestens dann sollen KI-Inhalte klar als solche gekennzeichnet werden; erzeugte Bilder und Videos müssten also mit Wasserzeichen versehen sein. Weitere Regeln sollen erst ab Dezember 2027 beziehungsweise August 2028 durchgesetzt werden.
Industrie warnt vor Doppelregulierung
Aus der Wirtschaft kamen zuletzt Forderungen, Überschneidungen zwischen verschiedenen EU-Vorschriften abzubauen, um Europas Wettbewerbsfähigkeit nicht zu schwächen. Auch Bundeskanzler Friedrich Merz (CDU) hatte sich für einfachere europäische Regeln ausgesprochen. Damit etwa Unternehmen aus dem Maschinenbau beim Einsatz von KI nicht mehrere EU-Vorgaben parallel erfüllen müssen, sind Ausnahmen vorgesehen.
Dem CDU-Europaabgeordneten Axel Voss gehen die Änderungen allerdings nicht weit genug. Er forderte einen Rahmen, der Innovation ermögliche und zugleich Schutz garantiere, statt eines Flickenteppichs aus einzelnen KI-Sonderregeln. Auch FDP-Politikerin Hahn kritisierte, dass Doppelregulierung bei industrieller KI abseits des Maschinenbaus in den meisten Branchen weiter bestehen bleibe.
Quelle: dpa/bearbeitet durch Topaktuell Redaktion
