Charakter-Bots. Sexualisierung Minderjähriger und riskante Interaktion
Mit Künstlicher Intelligenz (KI) lassen sich heute nicht nur Texte generieren, sondern auch ganze Gesprächspartner erschaffen. Sogenannte Charakter-Bots sind digitale Figuren, die in Chats wie echte Personen wirken sollen. Sie übernehmen Rollen, reagieren auf Nachrichten und bauen in Gesprächen gezielt Nähe auf. Für Kinder und Jugendliche kann das zunächst unterhaltsam oder unterstützend wirken – gleichzeitig entstehen dadurch neue Formen von Interaktion, die schwer einzuordnen sind.
Der vorliegende Report von jugendschutz.net untersucht, welche Risiken mit solchen Angeboten verbunden sind. Im Fokus steht die Frage, wie schnell Nutzer:innen, insbesondere Minderjährige, in problematische oder grenzüberschreitende Gespräche geraten können.