Clearingstelle Medienkompetenz der Deutschen Bischofskonferenz
 
Technik für den digitalen Jugendschutz

Technik für den digitalen Jugendschutz

Fraunhofer SIT - Studie technik für den Digitalen Jugendschutz - TitelbildUnbestreitbar sind Sexting und Cybergrooming wesentliche Themen im Jugendmedienschutz. Denn durch soziale Netzwerke werden junge Menschen auch mit problematischen Inhalten konfrontiert. Dabei geht es nicht darum, das bisweilen problematische Verhalten Heranwachsender im Kontext von Beziehungsanbahnung und -pflege während der Pubertät zu kriminalisieren. Vielmehr gilt es, potenzielle Opfer vor – entgegen dem landläufigen Klischee häufig eher jüngeren – pädokriminellen Tätern zu schützen. Ein Thema für den digitalen Jugendschutz!

Die vorliegende Studie wurde bereits 2018 fertiggestellt; eine Veröffentlichung war damals nicht vorgesehen. Allerdings sind die Ergebnisse vor dem Hintergrund des Digitalisierungsschubs während der Coronakrise gesellschaftlich so relevant, dass sich das Institut für eine Veröffentlichung im Nachhinein entschieden hat. Dabei wurden zwar keine Aktualisierungen vorgenommen. Jedoch mindert das weder die Lesbarkeit noch den Nutzen der Studie.

Ausgehend von einer Beschreibung der Phänomene stellen die Autor:innen die Rechtslage sowie die verwendeten Kommunikationskanäle und – im Kontext Cybergrooming – Täter und deren typisches Vorgehen sowie Opfer und Viktimisierung begünstigende Faktoren vor. An die Darstellung technischer Grundlagen automatisierter Bild- und Texterkennung schließt sich ein Vergleich unterschiedlicher Verfahren auf dem Stand der Technik an. Den Kern der Studie stellen die Eignungsprüfung der Verfahren und Überlegungen zur Umsetzung dar.

Handlungsempfehlungen für digitalen Jugendschutz

Die Handlungsempfehlungen beweisen eine erfreulich realistische Sicht auf die pädagogische Praxis. Vermutlich nehmen Minderjährige entsprechende Apps eher als Einschränkung und nicht als Schutz wahr. Daher müssten Prüfungen auf Nacktheit in Bildern direkt in das Betriebssystem integriert werden. Denn so könnten sie die Erstellung (kinder-)pornografischen Materials bereits im Ansatz verhindern. Wie dies rechtlich umzusetzen sein soll und ob dies angesichts von False positives (also fälschlich als Nacktheit-Darstellung erkannten Bildern) funktionieren kann, muss dahingestellt bleiben. Ähnlich schwierig dürfte die notwendige Sammlung von Trainingsdaten für maschinelles Lernen sein. Gleiches gilt für die notwendigen Trainingsdaten, die nötig sind, um über Profiling und Kommunikationsverläufe typische Vorgehensweisen beim Cybergrooming automatisiert erkennen zu können.

Ein Exkurs behandelt das Thema Kinderpornografie. Auch dabei sind Altersabschätzung und Nacktheitserkennung von besonderer Bedeutung. Dadurch könnte die Technik maschinellen Lernens eine Unterstützung bei der Sichtung von potenziell kinderpornografischem Material leisten.

Der Anhang bietet neben einem Glossar und den einschlägigen Gesetzestexten auch eine kurze Einführung in das Thema maschinelles Lernen, das auch Gütekriterien und Sicherheitsrisiken thematisiert. Die angebotene Detailtiefe genügt wissenschaftlichen Kriterien. Aber auch Nicht-Fachmenschen profitieren von den gut lesbaren Informationen.

TITEL:

Technik für den digitalen Jugendschutz: Automatische Erkennung von Sexting und Cybergrooming.
Studie des Verbundprojekts „Cybersicherheitsforschung für die Digitalisierung in Verwaltung und Gesellschaft“ des hessischen Ministeriums des Innern und für Sport.

QUELLE (ERSCHEINUNGSJAHR):

Fraunhofer-Institut für Sichere Informationstechnologie SIT (Hrsg.) (2021)

Download der Broschüre über die Website des Herausgebers:
sit.fraunhofer.de


Das könnte Sie auch interessieren

Consent-Management-Plattform von Real Cookie Banner