Die Unterrichtseinheit „Coded Bias – wie KI diskriminiert“ verhilft Jugendlichen zu einer kritischen Haltung gegenüber von KI generierten Entscheidungen. „Bias“ bezeichnet die durch falsche Untersuchungsmethoden (zum Beispiel Suggestivfragen) verursachte Verzerrung des Ergebnisses von wissenschaftlichen Untersuchungen und Erhebungen. Auch bei einer Forschung nach hohen ethischen und wissenschaftlichen Standards kann die Ursache eines Bias in der Formulierung der Fragestellung liegen, die Forschende zwar nach allen wissenschaftlichen Regeln so objektiv wie möglich, aber doch letztlich nicht völlig frei von subjektiven Einstellungen erarbeitet haben. Der Bias ist damit ein systematischer Fehler, der nie vollständig ausgeschlossen werden kann.
KI nimmt Entscheidungsprozesse, die auf Daten und Algorithmen beruhen, als neutral wahr – sofern man bei KI überhaupt von Wahrnehmung sprechen kann. Die Daten und Algorithmen sind aber nur so neutral, wie die Menschen, die sie geliefert und programmiert haben. Und diese sind wiederum nur so neutral wie ihre Auftraggeber:innen. Datensätze verfügen häufig über zu wenig Diversität. Und die KI kann nur mit den Datensätzen arbeiten, die sie bekommt. Konsequenterweise entstehen mit wenig sensiblen und mangelhaften Datensätzen diskriminierende oder rassistische Ergebnisse. People of Color können also weiterhin eher als kriminell eingestuft werden oder Frauen als weniger kompetent für eine ausgeschriebene berufliche Position. Der „Bias“ ist mit dem Coding an die auswertende KI weitergereicht worden.
Spannende Unterrichtseinheit zum Thema KI
Die Unterrichtseinheit zur Umsetzung des Medienkompetenzrahmens NRW für den Einsatz in Klasse 9 oder 10 kann beispielsweise in den Fächern Deutsch, Politik, Religion oder Ethik, aber auch in der Jugendarbeit, in zwei bis vier Stunden mit geringem Materialaufwand durchgeführt werden. Es werden zwei Module angeboten, in denen zunächst der Begriff und die Funktionsweise des Coded Bias geklärt werden und im Anschluss Projekte gegen Diskriminierung durch Algorithmen recherchiert und tiefergehende Fragestellungen reflektiert werden. Die Unterrichtseinheit enthält eine Infografik, in der veranschaulicht wird, wie ein Coded Bias durch unvollständige Trainingsdaten entsteht. Sie hält außerdem zusätzliches Informationsmaterial für die Lehrpersonen sowie Arbeitsblätter für die Gruppenarbeit und die Recherche im Internet bereit.
Fazit
KI kann uns Menschen unterstützen und viele Aufgaben sogar besser und effizienter bewältigen. Das darf jedoch niemals auf Kosten anderer Menschen gehen. Es bedarf rechtlicher Grundprinzipien, vollkommener Transparenz der Datensätze und der Kontrolle von algorithmischen Entscheidungsprozessen. Den Jugendlichen wird mittels dieser Unterrichtseinheit auf anschauliche Weise verdeutlicht, wie Coded Bias entstehen und zu Diskriminierung führen. Die Sequenz berührt die Kompetenzbereiche Analysieren und Reflektieren sowie Prinzipien der digitalen Welt und fördert den kritischen Umgang mit KI und ihren Ergebnissen.
Weitere Informationen zu KI finden sich im mekomat.
Titel
CODED BIAS – Wie KI diskriminiert
Quelle (Erscheinungsjahr)
Medienkompetenzrahmen NRW (Hrsg.) (2024)
Download als PDF über die Website des Herausgebers: