0 
Die von Bund und Ländern getragene Plattform Jugendschutz.net hat im vergangenen Jahr 15.099 Verstöße gegen Jugendschutzregeln im Internet festgestellt. Der größte Teil entfiel laut dem in Berlin vorgestellten Jahresbericht auf Darstellungen sexualisierter Gewalt gegen Kinder mit 12.334 Fällen sowie auf Jugendpornografie mit 1.091 Fällen. Andere Problemfelder wie politischer Extremismus, Cybermobbing, Pornografie oder Gewaltdarstellungen spielten bei den erfassten Verstößen eine deutlich kleinere Rolle.
Nach Angaben der Stelle konnten in 96 Prozent der Fälle, also bei 14.520 Verstößen, die Inhalte bei den Anbietern entfernt werden. In knapp 6.500 Fällen wurden außerdem direkt die Strafverfolgungsbehörden eingeschaltet.
Bundesbildungs- und Jugendministerin Karin Prien (CDU) sprach angesichts der Zahlen von einem erneuten Warnsignal. Noch immer sei man weit davon entfernt, Kindern und Jugendlichen eine wirklich sichere und unbeschwerte Nutzung digitaler Angebote zu ermöglichen. Viele Plattformen und Dienste unternähmen weiterhin nicht genug für wirksamen Kinder- und Jugendschutz. Gerade weil digitale Anwendungen und KI-Angebote für junge Menschen immer wichtiger würden, müssten Schutz, Sicherheit und klare Regeln stärker mit der technischen Entwicklung Schritt halten.
Rückgang bei der Gesamtzahl nur eingeschränkt aussagekräftig
Im Vergleich zum Vorjahr mit 17.630 registrierten Fällen ist die Gesamtzahl zwar gesunken. Allerdings weist Jugendschutz.net darauf hin, dass solche Zahlen nur begrenzt Rückschlüsse auf eine tatsächliche Entspannung oder Verschärfung der Lage zulassen. Ein wesentlicher Grund sei, dass das Ergebnis auch davon abhänge, wie viele Hinweise eingehen. Nutzer können über ein Online-Formular Missbrauchsdarstellungen und andere problematische Inhalte auf Webseiten oder in sozialen Netzwerken melden.
Das gemeinsame Kompetenzzentrum von Bund, Ländern und Landesmedienanstalten durchforstet das Netz und Social-Media-Plattformen gezielt nach Risiken für Minderjährige. Dabei stützt es sich sowohl auf eigene Recherchen als auch auf Hinweise aus dem Beschwerdeportal und von internationalen Partnern. Beobachtet werden zudem Angebote mit Kostenfallen, problematischer Werbung oder möglichen Verletzungen der Persönlichkeitsrechte von Kindern und Jugendlichen.
Kritik an den Plattformen: Schutzmaßnahmen reichen nicht aus
Jugendschutz.net untersucht außerdem, welche Vorkehrungen Anbieter von Online-Spielen sowie Plattformen wie Instagram, YouTube und TikTok treffen. Im Mittelpunkt stehen dabei etwa Schutzfunktionen gegen unerwünschte Kontaktaufnahmen durch Fremde oder die Wirksamkeit interner Meldesysteme.
Der Leiter von Jugendschutz.net, Stefan Glaser, warf den Anbietern vor, eher neue Risiken zu schaffen, als wirksame Sicherheitsmaßnahmen einzuführen. Statt Schutzvorkehrungen auszubauen, würden manipulative Geschäftsmodelle weiterentwickelt. Besonders rasant verlaufe die Entwicklung im Bereich der Künstlichen Intelligenz. Glaser verwies auf Chatbots, die zunehmend als emotionale Gesprächspartner aufträten. Solche parasozialen Beziehungen könnten die Wahrnehmung der Realität verzerren und es erschweren, zwischen künstlich erzeugten und echten Beziehungen zu unterscheiden.
Im Jahresbericht hebt Jugendschutz.net mehrere aktuelle Gefahren besonders hervor:
„Charakter-Bots“
Problematisch seien sogenannte Charakter-Bots, also frei gestaltbare KI-Gesprächspartner, die immer realistischer wirkten. Sie träten als Berater, Coach oder sogar als simulierte Beziehungspartner auf. Wegen lückenhafter Filter und unzureichender Sicherheitseinstellungen bestehe das Risiko, dass solche Systeme auch sexualisierte Inhalte mit Bezug zu Minderjährigen erzeugen oder Rollen von Minderjährigen einnehmen.
KI-Profile in sozialen Netzwerken
Auch mögliche KI-Profile auf Social-Media-Plattformen bewertet Jugendschutz.net als Risiko. Solche künstlich erzeugten Accounts könnten menschliches Verhalten nachahmen, um Dienste attraktiver erscheinen zu lassen und Nutzer länger auf den Plattformen zu halten. Gerade für junge Menschen könnten dadurch neue Formen der Manipulation entstehen.
„KI-Models“, „KI-Influencer“ und „Skinnytok“
Kritisch sieht die Stelle zudem KI-Influencer und KI-Models, die unrealistische Schönheitsideale verbreiten. Solche künstlich erzeugten Figuren könnten insbesondere bei Kindern und Jugendlichen das Selbstbild und die Körperwahrnehmung negativ beeinflussen. Gewarnt wird außerdem vor Inhalten unter dem Schlagwort „Skinnytok“ auf TikTok, in denen extreme Schlankheit idealisiert und Essstörungen wie Magersucht oder Bulimie verharmlost werden.
Discord als Verbreitungsraum für extremistische und gewaltverherrlichende Inhalte
Auch die Chatplattform Discord steht im Fokus der Jugendschützer. Nach Einschätzung von Jugendschutz.net dient sie vielfach als Umschlagplatz für rechtsextreme, menschenfeindliche und gewaltverherrlichende Inhalte. Dazu zählten unter anderem NS-Propaganda, Hassbotschaften gegen Minderheiten und drastische Gewaltvideos. In manchen Chaträumen würden junge Nutzer teils beiläufig, teils humoristisch oder strategisch verpackt mit solchen Inhalten konfrontiert. Das könne ihre Sicht auf die Welt beeinflussen. Zugleich sei die Moderation häufig unzureichend, und Meldungen führten oft nicht schnell genug zur Löschung problematischer Inhalte.
Quelle: dpa/bearbeitet durch Topaktuell Redaktion
