Grok: Hass und Extremismus-Content durch KI
Hassrede, Desinformation oder extremistische Inhalte werden meist mit Sozialen Netzwerken in Verbindung gebracht. Mit generativen KI-Systemen entsteht jedoch eine neue Situation. Denn die Inhalte werden nicht mehr nur gefunden oder weiterverbreitet, sondern können auf Anfrage direkt erzeugt werden. Gleichzeitig nutzen viele Menschen KI-Chatbots inzwischen ähnlich wie Suchmaschinen, um Informationen zu recherchieren oder Fragen beantworten zu lassen. Umso problematischer wird es, wenn dabei historische Fakten verzerrt, problematische Inhalte unkritisch wiedergegeben oder extremistische Narrative ohne Einordnung ausgegeben werden. Der aktuelle Report von jugendschutz.net untersucht diese Entwicklung am Beispiel des KI-Chatbots Grok des Unternehmens xAI und zeigt, welche Herausforderungen daraus für den Jugendmedienschutz entstehen.