0 
Analyse: Wie im Netz eine Szene Attentäter glorifiziert
Nach Schulmassakern, rassistischen Verbrechen oder antisemitischen Anschlägen entstehen im Internet regelmäßig Debatten. Neben Trauer und Mitgefühl für Betroffene und Angehörige zeigt sich dabei auch eine verstörende Gegenbewegung: In bestimmten Online-Kreisen werden Täter gefeiert. Die Landesanstalt für Kommunikation Baden-Württemberg (LFK) hat dieses Milieu in einer Schwerpunktuntersuchung näher beleuchtet.
Worum geht es bei der Attentäter-Fanszene?
In sozialen Netzwerken verbreiten sich Beiträge, die Amokläufer und Attentäter verherrlichen. Manche Nutzer stellen sie als Helden dar, fantasieren über persönliche oder romantische Nähe zu ihnen oder relativieren und billigen ihre Taten.
Nach Einschätzung des baden-württembergischen Verfassungsschutzes sind viele Akteure in diesem Umfeld noch sehr jung. Gleichzeitig falle eine starke Faszination für Gewalt auf. Dadurch könne sich die Szene zunehmend selbst radikalisieren und auch andere mitziehen.
Warum ist das problematisch?
Die Behörden sehen darin mehrere Gefahren. Im schlimmsten Fall können solche Inhalte Menschen dazu bringen, Gewaltfantasien tatsächlich umzusetzen. Zudem verstärke sich die Szene durch jede neue Tat selbst: Nach einem Anschlag entstehe oft rasch eine neue Welle von Fan-Inhalten.
Hinzu kommt ein rechtlicher Aspekt. Nach Angaben der LFK können entsprechende Darstellungen gegen Jugendschutzvorschriften verstoßen. Werden Straftaten offen befürwortet, kann das auch strafrechtlich relevant sein.
Welche Formen nehmen diese Inhalte an?
Die Bandbreite ist groß. Verbreitet werden etwa mit Künstlicher Intelligenz erzeugte Videos, in denen Täter tanzend inszeniert werden, während zugleich die Zahl der Getöteten eingeblendet wird. Auch Spielvideos kursieren, in denen Anschläge oder Amokläufe nachgestellt werden.
Nach Einschätzung eines LFK-Experten geht es dabei oft sogar darum, die reale Tat zu "übertreffen". Beim nachgespielten Anschlag auf die Synagoge in Halle etwa bestehe das Ziel teilweise darin, im Gegensatz zum tatsächlichen Täter in das Gebäude einzudringen und dort Menschen zu töten.
Um Löschungen zu umgehen, verwenden die Urheber häufig verschleiernde Begriffe, Emojis oder absichtlich veränderte Schreibweisen. Dieses sogenannte Algospeak soll verhindern, dass Plattformen die Inhalte schnell erkennen. Täter werden dann beispielsweise als "Schauspieler" bezeichnet, Hashtags erwecken den Eindruck eines fiktiven Geschehens, und anstelle der Zahl der Opfer ist von verteilten "Umarmungen" oder "Geschenken" die Rede.
Welche Fälle werden genannt?
Als aktuelle Beispiele verweist der Bericht unter anderem auf einen Vorfall im Juli in Schongau in Oberbayern. Dort soll ein 16-Jähriger zwei Schülerinnen an einem Gymnasium mit einem Messer schwer verletzt haben. Laut Ermittlern habe der Jugendliche in sozialen Netzwerken Amokläufe verherrlicht.
Auch nach einem tödlichen Schwertangriff auf eine 17-Jährige im schwedischen Fagersta im August spielte ein möglicher Bezug zu entsprechender Online-Verherrlichung eine Rolle.
Was genau hat die LFK untersucht?
Die Behörde wollte wissen, wie leicht Minderjährige auf TikTok mit solchen Inhalten in Berührung kommen. Dafür richtete sie nach eigenen Angaben ein Nutzerkonto mit einem angegebenen Alter von 16 Jahren ein und simulierte gegenüber dem Algorithmus gezielt Interesse an einschlägigem Material.
TikTok wurde bewusst ausgewählt, weil dort besonders viele Kinder und Jugendliche aktiv sind.
Zu welchen Ergebnissen kam die Untersuchung?
Nach dem gezielten "Training" des Algorithmus bezog sich mehr als jedes fünfte Video auf der For-You-Seite in unterstützender Weise auf Attentäter oder Amokläufer.
Außerdem stellte die LFK fest, dass in der Suche bereits bei Vornamen häufig Nachnamen bekannter Täter oder typische Begriffe aus der Szene vorgeschlagen wurden.
Kritisch sehen die Fachleute auch automatisch erstellte KI-Zusammenfassungen in der Desktop-Version von TikTok. Diese griffen teils die verzerrende Sprache der Nutzerbeschreibungen auf und führten sie mitunter sogar weiter, etwa durch Formulierungen dazu, was ein "Actor" als Nächstes tun solle.
Wie reagierte die Plattform auf Meldungen?
Nach Angaben der LFK wurden beanstandete Inhalte zunächst meist nicht entfernt, wenn sie über gewöhnliche Nutzermeldungen gemeldet wurden. Erst nach weiteren Hinweisen über ein spezielles Behörden-Meldeportal seien die Beiträge – mit zwei Ausnahmen – gelöscht worden.
Selbst wenn Inhalte entfernt wurden, tauchten ähnliche Versionen oder neue Uploads auf anderen Konten schnell wieder auf.
Was sagt TikTok?
Auf eine Anfrage reagierte das Unternehmen zunächst nicht. In früheren Stellungnahmen zu Hassrede, Extremismus und Radikalisierung hatte TikTok betont, hasserfüllte Ideologien nicht zu dulden. Die Förderung gewalttätiger oder hasserfüllter Akteure sei untersagt. Ein Großteil gemeldeter Inhalte werde innerhalb von 24 Stunden entfernt, viele sogar schon vor einer Meldung.
Ist das Problem auf TikTok beschränkt?
Nein. Bereits zu Jahresbeginn hatten das Landeskriminalamt Baden-Württemberg sowie die Generalstaatsanwaltschaften Stuttgart und München eine nach eigenen Angaben weltweit erste kriminologische Studie zur deutschen "Terrorgramszene" vorgestellt.
Gemeint ist ein rechtsextremes Netzwerk, das vor allem über Telegram terroristische Gewalt unterstützt und verbreitet. Dort würden Anschläge und Amoktaten glorifiziert und Nachahmung offen propagiert.
Wie geht es nun weiter?
Die LFK hat ihre Erkenntnisse an die zuständigen Stellen auf europäischer Ebene weitergegeben. Die Europäische Kommission soll mögliche Verstöße prüfen und die Ergebnisse gegebenenfalls in laufende oder künftige Verfahren gegen TikTok einbeziehen.
Zudem steht die Behörde nach eigenen Angaben im Austausch mit Strafverfolgern, darunter dem Bundeskriminalamt.
Welche Maßnahmen fordern die Fachleute?
Aus Sicht der LFK sollten Namen von Tätern und bekannte Ausweichbegriffe in der Suche konsequent blockiert werden. Außerdem fordert sie, auf KI-generierte Zusammenfassungen in solchen Kontexten zu verzichten.
Darüber hinaus müsse die Moderation verbessert und schneller auf Hinweise von Nutzern reagiert werden.
Um Nachahmungseffekte zu verringern, raten Fachleute zudem zu einem zurückhaltenden Umgang in der Berichterstattung: Die Zahl der Todesopfer sollte nicht unnötig in den Mittelpunkt gestellt, Motive nicht verkürzt dargestellt und weder Namen noch Fotos der Täter prominent verbreitet werden.
Quelle: dpa/bearbeitet durch Julian Weber
