Hassrede, schwierige Kommentare und eskalierende Diskussionen gehören für viele Menschen, die Social-Media-Kanäle betreuen oder sich online engagieren, zum digitalen Alltag. Gerade in solchen Situationen muss häufig schnell entschieden werden, wie auf einen Kommentar reagiert werden kann und welche Form der Moderation angemessen ist. Mit ModSupport 2.0 stellt das Projekt Civic.net der Amadeu Antonio Stiftung ein KI-gestütztes Chat-Tool bereit, das bei diesen Entscheidungen unterstützen soll. Nutzer:innen können Fragen zu konkreten Kommentaren, zu Hassrede, Online-Konflikten oder zum Community Management stellen und erhalten darauf abgestimmte Einschätzungen, Tipps und Handlungsempfehlungen.
Unterstützung bei Moderation und Hassrede
Je nach Anfrage wählt ModSupport 2.0 einen passenden Gesprächsmodus aus. So kann beispielsweise ein konkreter Kommentar analysiert oder nach allgemeinen Möglichkeiten im Umgang mit schwierigen Diskussionen gefragt werden. Auch ein offener Austausch zu Fragen des Community Managements ist möglich. Das Tool berücksichtigt dabei den bisherigen Gesprächsverlauf innerhalb einer Sitzung. Dadurch können Nutzer:innen Rückfragen stellen, einzelne Aspekte vertiefen oder eine Situation schrittweise genauer beschreiben.
Grundlage für die Antworten ist nicht allein das allgemeine Wissen des eingesetzten Sprachmodells. ModSupport 2.0 greift zusätzlich auf eine eigens zusammengestellte Wissensbasis zurück. Diese enthält Erfahrungswissen aus der langjährigen Beratungspraxis von Civic.net sowie Literatur und Materialien zu Community Management und Hassrede-Moderation. Mithilfe von Retrieval-Augmented Generation (RAG) werden für eine Anfrage passende Inhalte aus dieser Wissensbasis ausgewählt und bei der Generierung der Antwort berücksichtigt. Als Sprachmodell kommen Mistral Large beziehungsweise Mistral Medium zum Einsatz. Für die technische Umsetzung werden außerdem die Vektordatenbank Qdrant und die Automatisierungsplattform n8n genutzt.
KI als praktische Hilfe im Community Management
ModSupport 2.0 richtet sich insbesondere an Community Manager, zivilgesellschaftlich Engagierte und Personen, die digitale Diskussionsräume betreuen oder moderieren. Auch für Multiplikator:innen in der Bildungsarbeit kann das Tool interessant sein, um unterschiedliche Reaktionsmöglichkeiten auf Hassrede und problematische Kommentare zu thematisieren. Statt ausschließlich allgemeine Informationen über Hate Speech bereitzustellen, setzt ModSupport 2.0 direkt an konkreten Situationen aus dem digitalen Kommunikationsalltag an.
Damit verbindet das Angebot die Möglichkeiten generativer KI mit dem fachlichen Wissen aus der Beratungspraxis von Civic.net. Besonders für die Auseinandersetzung mit Community Management, Moderationsentscheidungen und dem Umgang mit Hass im Netz bietet ModSupport 2.0 einen niedrigschwelligen Zugang, um Handlungsmöglichkeiten für unterschiedliche Situationen kennenzulernen und zu reflektieren.
Titel
ModSupport 2.0 – Das KI-Tool für Engagierte gegen Hass im Netz
quelle (Erscheinungsjahr)
Amadeu Antonio Stiftung (2026)
Link zum Tool: