KI-Fairness operationalisieren: Von Metriken zu Governance

KI-Fairness ist kein Prüfpunkt nach dem Training. Sie muss über Zweck, Daten, Features, Modellverhalten, Evaluation, Deployment und Governance hinweg gestaltet werden.

Fairnessmetriken widersprechen sich in realistischen Situationen häufig. Gleiche Genehmigungsraten, gleiche Fehlerraten, Kalibrierung und Chancengleichheit können unterschiedliche Entscheidungen nahelegen. Die Auswahl einer Metrik ist deshalb normativ, nicht rein technisch.

Ein belastbarer Ansatz beginnt vor der Modellierung: Entscheidungskontext, verteiltes Gut, historische Ungleichheiten, fehlende Variablen, Proxy-Merkmale und Messgrenzen müssen dokumentiert werden. Während der Modellierung zählen Gesamtgenauigkeit, Gruppenperformance, kausale Plausibilität und Begründung der Features.

In Bereichen wie Recruiting, Kredit, Versicherung, Bildung, Gesundheit oder öffentlicher Verwaltung reicht “Black Box plus Metrik” nicht aus. Es braucht Model Cards, Impact Assessments, Audit Logs, Eskalationsprozesse und menschliche Review-Punkte.

Darin liegt auch eine Produktchance: Werkzeuge zum Vergleichen von Metriken, Prüfen kausaler Merkmale, Dokumentieren geschützter Attribute, Simulieren von Mitigation und Erstellen von Governance-Berichten.

KI-Fairness ist eine Designanforderung und Governance-Fähigkeit. Wer das versteht, baut vertrauenswürdigere Systeme und reduziert rechtliche, reputative und operative Risiken.