Diskriminierung durch Künstliche Intelligenz

13.10.2026

Diskriminierung durch Künstliche Intelligenz

Header für das Thema Digitalrecht. Zu sehen ist die Autorin Vitoria Guijarro vor einem mittelblauen Hintergrund mit hellblauen Kästen.

von Victoria Guijarro Santos

Künstliche Intelligenz (KI) ist inzwischen Teil unseres Alltags. Auch Institutionen setzen zunehmend auf KI, um Güter, Dienstleistungen und Teilhabe in der Gesellschaft zu verteilen. Die österreichische Arbeitsagentur hat etwa ein KI-System entwickeln lassen, um Sozialleistungen möglichst effizient unter Arbeitssuchenden zu verteilen; Unternehmen nutzen KI-Systeme, um Jobbewerber:innen zu sortieren, zum Bewerbungsgespräch einzuladen oder ihnen abzusagen.

Leeres Versprechen

Das Versprechen der KI-Unternehmen ist verlockend: Anders als Sachbearbeiter:innen soll KI die Sozialleistungen und Jobs nicht nur effizienter, sondern auch neutral, also diskriminierungsfrei verteilen. Dieses Versprechen wirkt plausibel, weil wir uns KI oft abstrakt vorstellen. Sie hat keinen Körper, der müde wird, oder Emotionen, die als irrational gelten. Sie besteht nur aus Code und Daten. Super neutral – oder nicht?

In den vergangenen Jahren haben Informatiker:innen dieses Versprechen als falsch entlarvt. Anhand zahlreicher Fallbeispiele konnten sie feststellen, dass KI zwar effizientere, aber keine neutralen Entscheidungen trifft. Sie diskriminiert – nun eben effizienter.

Mit Recht KI retten – aber wie?

Der EU-Gesetzgeber und Rechtswissenschaftler:innen haben das Problem diskriminierender KI-Systeme erkannt. Doch die Ansichten darüber, wie Recht gegen KI-basierte Diskriminierung gesetzt oder ausgelegt werden soll, gehen auseinander – je nachdem, was als Unrecht und Ursache von Diskriminierung durch KI verstanden wird.

Eine zurzeit dominante Perspektive, die als „individualisierend“ bezeichnet werden kann, denkt KI von den gesellschaftlichen Verhältnissen losgelöst: Ursache und Lösung für Diskriminierung liegen in der Technologie. Einzelne KI-Systeme müssen danach nur statistisch genauer gemacht werden, um zu verhindern, dass einzelne leistungsfähige oder -berechtigte Personen von Gütern, Dienstleistungen oder Teilhabe ausgeschlossen werden, die sie eigentlich verdient haben.

Aus einer „relationalen“ Perspektive, die von den Science & Technology Studies geprägt ist, muss KI dagegen in der Gesellschaft situiert verstanden werden. Demnach ist es zwar ungerecht, wenn einzelne Individuen fehlerhaft von Gütern, Dienstleistungen oder Teilhabe ausgeschlossen werden. Doch es ist darüber hinaus auch ungerecht, wenn KI gesellschaftliche Hierarchien verfestigt, die – und das ist das strukturelle Problem – in KI und Daten eingeschrieben sind. Diese relationale Perspektive weitet damit den Blick für Lösungen. Sie sucht nicht nur nach technischen, sondern auch nach gesellschaftlichen Lösungen und hinterfragt die Eignung von KI für Verteilungsentscheidungen in grundsätzlicher Hinsicht.

KI, Recht, Gesellschaft

Aus einer relationalen Perspektive wird ferner deutlich, dass diese unterschiedlichen Perspektiven und die sich daran anschließenden Rechtspraxen – Gesetzgebung, Auslegung und Kritik – gesellschaftliche Folgen haben. Die individualisierende Perspektive beispielsweise fördert ein „Fair-Washing“ von KI-Systemen, während das Problem der Diskriminierung ungelöst bleibt; der Diskurs um KI-basierte Diskriminierung wird zugleich immer technokratischer und unzugänglicher. Stattdessen fördert eine relationale Perspektive eine demokratische Aushandlung von Perspektiven.

Für welche Perspektive auch immer man sich entscheidet: Wie Diskriminierung durch KI reguliert wird und wie Jurist:innen das entsprechende Recht auslegen und anwenden, ist immer auch eine Verhandlung darüber, wie wir mit Diskriminierung und Ungleichheit in der Gesellschaft umgehen. Der Zugang zum KI-Recht sollte deswegen für Betroffene – im Gesetzgebungsprozess, in Normungsausschüssen, Betriebsräten oder Gerichten – erleichtert werden.

Victoria Guijarro Santos wurde an der Georg-August-Universität Göttingen promoviert. Währenddessen arbeitete sie als wiss. Hilfskraft am Lehrstuhl von Prof. Dr. Andreas L. Paulus BVR a.D. an der Universität Göttingen und als wiss. Mitarbeiterin am Lehrstuhl von Prof. Dr. Nora Markard, LL.M (KCL) an der Universität Münster; beide haben ihre Doktorarbeit betreut. Forschungsaufenthalte führten sie u.a. an die Harvard Law School. Ihr Referendariat hat sie 2026 am Hanseatischen Oberlandesgericht in Hamburg abgeschlossen. Ihre Dissertation „Diskriminierung durch Künstliche Intelligenz – Eine relationale Perspektive“ erscheint in Kürze in der Reihe Datenrecht und neue Technologien im Nomos Verlag.