Studie deckt Fairness-Problem bei hybriden interpretierbaren KI-Modellen auf
Forscher identifizieren ein neues Fairness-Problem bei hybriden KI-Modellen, die transparente und Black-Box-Komponenten kombinieren: Bestimmte demografische Gruppen erhalten systematisch interpretierbare Entscheidungen, während andere überproportional an undurchsichtige Modelle weitergeleitet werden. Die Studie führt das Konzept 'Interpretability Coverage Disparity' (ICD) ein und zeigt Lösungsansätze auf.
Einordnung
Diese Forschung adressiert ein bisher wenig beachtetes Problem bei der Entwicklung erklärbarer KI-Systeme. Während hybride Modelle als vielversprechender Ansatz gelten, um Genauigkeit und Interpretierbarkeit zu balancieren, zeigt die Studie, dass sie unbeabsichtigt neue Formen algorithmischer Diskriminierung schaffen können. Das ist besonders relevant in Hochrisiko-Anwendungen wie Kreditvergabe oder Strafjustiz, wo das Recht auf Erklärbarkeit ungleich verteilt werden könnte.
Die Einführung von ICD als Metrik und die Demonstration praktikabler Lösungsansätze macht diese Arbeit wertvoll für die Praxis. Sie erweitert den Fairness-Diskurs in der KI um eine wichtige Dimension und könnte Einfluss auf regulatorische Entwicklungen haben, insbesondere im Kontext des EU AI Act, der Transparenz-Anforderungen für Hochrisiko-Systeme stellt.