Jugendschutz im Internet – Bericht 2025

KI-Chatbots, virtuelle Influencer:innen oder neue Shopping-Funktionen auf Social-Media-Plattformen, digitale Angebote entwickeln sich derzeit so schnell wie kaum zuvor. Gleichzeitig entstehen neue Risiken für Kinder und Jugendliche, auf die bestehende Schutzmaßnahmen häufig nicht vorbereitet sind. Der aktuelle Jahresbericht 2025 von jugendschutz.net zeigt, welche Entwicklungen den Jugendmedienschutz derzeit besonders prägen und wo Plattformen weiterhin ihrer Verantwortung nicht ausreichend nachkommen.

Grok: Hass und Extremismus-Content durch KI

Hassrede, Desinformation oder extremistische Inhalte werden meist mit Sozialen Netzwerken in Verbindung gebracht. Mit generativen KI-Systemen entsteht jedoch eine neue Situation. Denn die Inhalte werden nicht mehr nur gefunden oder weiterverbreitet, sondern können auf Anfrage direkt erzeugt werden. Gleichzeitig nutzen viele Menschen KI-Chatbots inzwischen ähnlich wie Suchmaschinen, um Informationen zu recherchieren oder Fragen beantworten zu lassen. Umso problematischer wird es, wenn dabei historische Fakten verzerrt, problematische Inhalte unkritisch wiedergegeben oder extremistische Narrative ohne Einordnung ausgegeben werden. Der aktuelle Report von jugendschutz.net untersucht diese Entwicklung am Beispiel des KI-Chatbots Grok des Unternehmens xAI und zeigt, welche Herausforderungen daraus für den Jugendmedienschutz entstehen.

Rechtsextremismus im Internet und in den sozialen Medien

Ein scheinbar harmloses Emoji, ein Meme im Gruppenchat, ein kurzer Clip auf TikTok oder ein Lied, das plötzlich alle mitsingen: Rechtsextreme Inhalte begegnen Kindern und Jugendlichen heute oft nicht mehr offen und eindeutig, sondern versteckt in Alltagstrends, Humor, Musik oder Gaming-Communities. Genau deshalb ist es für Eltern wichtig, aufmerksam zu bleiben und mit ihren Kindern im Gespräch zu sein. Die vorliegende Broschüre von klicksafe gibt dafür eine verständliche Orientierung in Einfacher Sprache.

Epstein-Files: Anlass für Hass und Propaganda online

Die Debatte um den Missbrauchsskandal rund um Jeffrey Epstein sorgt seit Jahren weltweit für Schlagzeilen. Neue Veröffentlichungen von Ermittlungsakten und die Diskussion über mögliche Verbindungen zu prominenten Persönlichkeiten rücken das Thema immer wieder in den Fokus öffentlicher Aufmerksamkeit. Skandalthemen wie dieses verbreiten sich heute oft nicht nur über Nachrichtenportale, sondern auch in Form von Clips, Memes oder emotional zugespitzten Kommentaren in Sozialen Netzwerken. Gerade wenn reale Gewaltverbrechen und politische Debatten aufeinandertreffen, entstehen schnell Dynamiken, in denen Unsicherheit, Empörung und Spekulation miteinander verschmelzen. Der aktuelle Report von jugendschutz.net zeigt, wie die Veröffentlichung der sog. Epstein-Files online aufgegriffen wird und welche Risiken sich daraus insbesondere für junge Nutzer:innen ergeben.

Meinungsblasen und Extremismus auf TikTok

Kurze Videos, Trendsounds und eine endlose Abfolge neuer Inhalte machen TikTok für viele Jugendliche zu einer der beliebtesten und wichtigsten Plattformen im digitalen Alltag. Neben Unterhaltung wird der Dienst zunehmend auch zur Informationsquelle über gesellschaftliche und politische Themen. Genau hier setzt der aktuelle Report von jugendschutz.net an. Er untersucht, wie Meinungsblasen, Desinformation und extremistische Inhalte auf TikTok entstehen und welche Risiken sich daraus insbesondere für junge Nutzer:innen ergeben.

Digitale Grauzonen: Radikalisierungspotenziale von islamistischen Videos und Kommentarspalten

Manchmal zeigen sich die größten Risiken dort, wo auf den ersten Blick scheinbar nichts Gefährliches passiert. Genau in diesen Zwischenräumen, sog. Grauzonen, setzt die vorliegende Studie der Landesanstalt für Medien NRW an. Sie untersucht, wie islamistische Inhalte auf Social Media funktionieren, die nicht offen strafbar sind, aber dennoch eine Wirkung entfalten, die Jugendliche und junge Erwachsene in problematische Denkmuster führen kann. Die Analyse blickt tief in einen Bereich, der in der Präventionsarbeit bisher zu wenig Beachtung gefunden hat: Videos, die emotional aufgeladen, identitätsstiftend und rhetorisch geschickt verpackt sind und deren Wirkung sich oft erst in den Kommentarspalten zeigt.

Hass- und Gewaltpropaganda auf Discord

Discord hat sich in den letzten Jahren von einer Plattform für Gamer:innen zu einem breiten Kommunikationsraum entwickelt. Jugendliche nutzen ihn, um sich in Communities auszutauschen, Musik zu hören oder gemeinsam zu spielen. Doch die Vielfalt der Server bringt auch Schattenseiten mit sich. Denn neben harmlosen Hobbygruppen finden sich immer wieder Räume, in denen Hass, Gewaltverherrlichung oder demokratiefeindliche Inhalte verbreitet werden.

Handbuch Gaming & Rechtsextremismus

Digitale Spiele gehören für viele Jugendliche längst zum Alltag. Über 70 % der 12- bis 19-Jährigen in Deutschland spielen regelmäßig und bewegen sich damit in Räumen, die weit mehr sind als bloße Unterhaltung. Gaming-Communities sind soziale Treffpunkte, in denen Freundschaften entstehen, aber auch politische Diskussionen geführt werden. Gerade deshalb ist es wichtig, auch problematische Entwicklungen im Blick zu haben: Denn extrem rechte Einstellungen und Diskurse finden hier ebenso ihren Platz.