Im Jahr 2024 dokumentierte jugendschutz.net 17.630 Verstöße gegen den Jugendmedienschutz. Bei über 9.700 Fällen wies jugendschutz.net Anbieter und Selbstkontrollen auf Verstöße hin und forderte schnelle Beseitigung – mit großem Erfolg: In 99 % reagierten die Dienste mit Löschung oder Sperrung der Inhalte. In besonders gravierenden Fällen wie zum Beispiel sexualisierter Gewalt schaltete die Organisation Strafverfolgungsbehörden ein. Aufsichtsfälle wurden an die Kommission für Jugendmedienschutz (KJM) und die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) übermittelt.
Der erfolgreichen Beseitigung von Jugendschutzverstößen stehen – so zeigt der Jahresbericht von jugendschutz.net – strukturelle Mängel hinsichtlich der Vorsorgemaßnahmen vieler digitaler Dienste entgegen. Zentrales Problem bleibt die fehlende Altersprüfung, ohne die Kinder und Jugendliche auf beliebten Plattformen kaum geschützt sind – etwa vor extremistischer Einflussnahme oder sexuellen Grenzverletzungen. Hinzu kommt der wachsende Einfluss generativer Künstlicher Intelligenz, die die Verbreitung problematischer Inhalte zusätzlich befeuert. Hier liegt der Fokus der Anbieter auf Innovation, Sicherheit für junge Nutzer hat dabei keine Priorität.
Registrierte Verstöße insgesamt
jugendschutz.net registrierte 2024 insgesamt 17.630 Verstoßfälle. Verglichen mit den Vorjahren (2023: 7.645; 2022: 7.363; 2021: 6.865) hat sich die Zahl somit weit mehr als verdoppelt im Vergleich zum Durchschnitt der vergangenen Jahre (7.291). Diese Entwicklung ist auf den enormen Zuwachs an Fällen im Themenfeld sexualisierte Gewalt zurückzuführen, die jugendschutz.net gemeldet wurden.
Sexualisierte Gewalt dominierte Arbeit
Angebote mit Bezug zu Sex / Pornografie machten nur 2% aus. Auch zahlenmäßig ist hie reinstarker Rückgang zu verzeichnen:354 Fälle gehen hierauf zurück (2023: 915 /12%; 2022: 575 / 8%).59 Verstoßfälle (17%) wurden als absolut unzulässig (v.a. Tier- Gewaltpornografie) eingestuft. Das Gros mit 252 Fällen (71 %) machen jugendgefährdende Inhalte aus (vorwiegend einfache Pornografie); 43 entfallen auf entwicklungsbeeinträchtigende Inhalte. Beim Thema Gewalt ist mit 187 Verstoßfällen und anteilig 1 % ebenfalls ein Rückgang feststellbar (2023: 266/ 3 %; 2022: 398/5 %). Weniger Fälle als in den Vorjahren registrierte jugendschutz.net auch bei Selbstgefährdungen und Cybermobbing.
In 6.668 Fällen mit so genannten kinder- oder jugendpornografischen Inhalten sowie bei Gefahr für Leib und Leben informierte jugendschutz.net direkt die Strafverfolgung. 738 Fälle mit Missbrauchsinhalten ohne deutschen Ermittlungsansatz übermittelte jugendschutz.net an INHOPE-Partner. 85 Fälle gab jugendschutz.net an die Kommission für Jugendmedienschutz (KJM) bzw. die Landesmedienanstalten, damit dort die Einleitung von Aufsichtsverfahren geprüft werden kann. Daneben übermittelte die Stelle 321 Fälle an die KJM oder direkt an die Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) zur Indizierung von Inhalten.
Islamistische Influencer verbreiten Hass
Sowohl der fortdauernde Nahost-Konflikt als auch politische Ereignisse wie die US-Wahl hatten 2024 spürbare Auswirkungen im digitalen Raum. Extremistische Gruppen nutzen diese Entwicklungen, um junge User mit ihren Beiträgen negativ zu beeinflussen. Islamistische Influencer vermischen dabei beispielsweise Alltagsthemen und Ratschläge für die religiöse Lebensführung mit demokratie- und menschenfeindlichen Aussagen, die sich gegen queere Menschen oder den Staat Israel richten. Die Posts und Videos erzielen mitunter erhebliche Reichweite.
Deepfakes und die Sexualisierung Minderjähriger
Durch den Einsatz von Künstlicher Intelligenz lassen sich Deepfakes und Deepnudes heute schnell und ohne technisches Wissen erzeugen. Im Netz finden sich nicht nur zahlreiche, frei zugängliche Deepfake-Generatoren für Pornografie, die sexualisierte Gewalt ermöglichen. Auch erlauben einige Dienste die Erstellung sexualisierter Darstellungen von Minderjährigen, wodurch Missbrauch Tür und Tor geöffnet ist. Diese können beliebig oft weiterverbreitet und genutzt werden, um Minderjährige online und offline bloßzustellen, zu mobben und zu erpressen. Betroffene von digitaler sexualisierter Gewalt können unter langwierigen körperlichen, psychischen und sozialen Folgen leiden.
Ausweichangebote für sexualisierte Gewalt
Das Videoportal Likee bietet ähnliche Funktionen wie TikTok, setzt jedoch weniger Vorsorgemaßnahmen um. Es wird auch von Kindern genutzt, die auf anderen Plattformen wegen ihres Alters eine Sperrung fürchten. jugendschutz.net stellte erhebliche Risiken wie sexuelle Belästigung und Grooming in Livestreams und Kommentaren fest. Pädokriminelle nutzten die Plattform auch für den Handel und Tausch von Missbrauchsdarstellungen. Ebenfalls Umschlagplatz für Darstellungen sexualisierter Gewalt ist der Messenger-Dienst Telegram. Ungehindert durch den Betreiber, verbreiten Täter dort sexuelle Darstellungen von Minderjährigen.
https://bericht.jugendschutz.net/jahresbericht-2024