Diskriminierung durch die Hintertür: Warum „Proxy Bias" zum Compliance-Risiko im KI-Zeitalter wird
Ein Algorithmus muss weder Geschlecht noch Herkunft kennen, um Menschen ungleich zu behandeln. Über Umwegvariablen wie die Postleitzahl kann Diskriminierung entstehen, ohne dass sie jemand programmiert hat – ein Problem, das mit dem EU AI Act nun handfeste Pflichten auslöst.
Die Vorstellung, ein Computerprogramm könne fair sein, weil es „nur mit Zahlen rechnet", hält sich hartnäckig. Tatsächlich zeigt die Debatte um algorithmische Diskriminierung seit Jahren das Gegenteil – und rückt derzeit ein technisch unscheinbares, juristisch aber brisantes Phänomen in den Mittelpunkt: den sogenannten Proxy Bias. Gemeint ist eine Ungleichbehandlung, die entsteht, obwohl ein System sensible Merkmale wie Geschlecht, Herkunft oder Religion gar nicht kennt. Mit dem Inkrafttreten weiterer Stufen des EU AI Act wird aus dem Fachbegriff zunehmend ein Compliance-Thema, das Unternehmen nicht mehr ignorieren können.
Was Proxy Bias bedeutet
Der Kern des Problems liegt in Stellvertretervariablen. Ein Modell, dem man ausdrücklich verbietet, Geschlecht oder ethnische Zugehörigkeit zu verarbeiten, findet oft Ersatzsignale, die stark mit diesen Merkmalen zusammenhängen. Ein klassisches Beispiel ist die Postleitzahl: Sie sagt nichts direkt über eine Person aus, kann aber je nach Wohngebiet mit sozioökonomischem Status oder Herkunft korrelieren. Ähnliches gilt für Lücken im Lebenslauf, bestimmte Vereinsmitgliedschaften oder die Wahl der Schule. Lernt ein Algorithmus, dass solche Merkmale in der Vergangenheit mit „Erfolg" oder „Misserfolg" verbunden waren, reproduziert er alte Muster – auch diskriminierende. Das Tückische daran: Weil niemand das sensible Merkmal bewusst eingespeist hat, wird die Benachteiligung leicht übersehen.
Warum das Thema gerade jetzt Fahrt aufnimmt
Getrieben wird die Diskussion durch den EU AI Act, die europäische Verordnung zur Regulierung künstlicher Intelligenz. Sie teilt KI-Anwendungen in Risikoklassen ein. Systeme, die in Beschäftigung und Personalmanagement mitentscheiden – etwa über die Vorauswahl von Bewerbern, Beförderungen, Kündigungen oder Leistungsbeurteilungen – gelten laut Anhang III ausdrücklich als hochriskant. Erste Verbote greifen bereits seit Februar 2025, darunter der Einsatz von Emotionserkennung im Arbeitskontext. Die vollständigen Pflichten für Hochrisiko-Systeme sollen nach dem derzeitigen Zeitplan im Laufe des Jahres 2026 wirksam werden. Für viele Personalabteilungen und Softwareanbieter verkürzt sich damit die Zeit, in der sie ihre Werkzeuge prüfen und dokumentieren müssen.
Welche Pflichten der AI Act vorsieht
Besonders relevant ist Artikel 10 der Verordnung. Er verlangt von Anbietern von Hochrisiko-KI-Systemen, dass Trainings-, Validierungs- und Testdaten relevant, ausreichend repräsentativ und möglichst fehlerfrei sind. Hinzu kommen Anforderungen an Transparenz, menschliche Aufsicht, technische Dokumentation und eine Prüfung auf Verzerrungen. Der regulatorische Ansatz zielt also nicht darauf, KI im Personalwesen zu verbieten, sondern ihren Einsatz an nachweisbare Sorgfalt zu knüpfen. Wer ein automatisiertes Auswahlverfahren betreibt, muss künftig belegen können, dass er das Risiko einer versteckten Diskriminierung ernsthaft untersucht hat.
Zwischen technischer Prüfung und offener Frage
Proxy Bias vollständig zu beseitigen, ist anspruchsvoll. Fachleute setzen auf Verfahren, die Datensätze auf verdächtige Korrelationen abklopfen, auf die Beobachtung von Ergebnissen entlang geschützter Gruppen und auf regelmäßige Nachkontrollen im laufenden Betrieb. Ein Restrisiko bleibt jedoch, weil sich Stellvertretersignale nie ganz ausschließen lassen und sich gesellschaftliche Ungleichheiten in den Trainingsdaten spiegeln. Genau darin liegt der eigentliche Wert der neuen Regeln: Sie zwingen Organisationen, das Thema systematisch zu bearbeiten, statt sich auf die vermeintliche Neutralität der Technik zu verlassen. Ob die Vorgaben in der Praxis konsequent umgesetzt und kontrolliert werden, wird sich allerdings erst in den kommenden Jahren zeigen.
Dies ist eine redaktionelle Einordnung und keine Rechtsberatung. Angaben zum EU AI Act geben den derzeitigen Diskussions- und Umsetzungsstand wieder; für die konkrete rechtliche Bewertung eines KI-Systems sollten Unternehmen fachkundigen Rat einholen.