Companion AI
Viele Menschen nutzen KI inzwischen nicht mehr nur für Hausaufgaben, die Arbeit oder die Informationssuche. Chatbots werden zunehmend auch als Gesprächspartner, Ratgeber oder emotionale Begleiter eingesetzt. Welche Risiken mit dieser Entwicklung verbunden sind, untersucht die vorliegende Studie „Companion AI – Risiken von sykophantischen und suchtfördernden Designs von KI-Systemen, ihre rechtliche Erfassung und Handlungsempfehlungen“ des Zentrums für Digitalrechte und Demokratie. Dabei werden sowohl spezielle Companion-Apps wie Character.AI oder Replika als auch allgemeine KI-Systeme wie ChatGPT, Gemini, Claude oder Grok betrachtet.