Was bedeutet Erklärbare KI?

Erklärbare KI bezeichnet Verfahren, die nachvollziehbar machen, wie ein Modell zu einer bestimmten Ausgabe gekommen ist. Sie beantworten, welche Eingaben den Ausschlag gaben und wie sich die Ausgabe bei anderen Werten verändert hätte. Von einer Begründung im juristischen Sinn unterscheidet sich das darin, dass hier der Rechenweg beschrieben wird und nicht die Rechtsgrundlage.

Zwei Wege sind gebräuchlich. Von Haus aus nachvollziehbare Modelle wie Entscheidungsbäume oder lineare Regression legen ihre Regel offen. Nachgelagerte Verfahren erklären dagegen ein fertiges Modell. SHAP verteilt den Beitrag am Ergebnis auf die einzelnen Eingabemerkmale, und LIME nähert die Entscheidung im Umfeld eines Falls durch ein einfaches Modell an. Kontrafaktische Erklärungen nennen die kleinste Änderung, die zu einem anderen Ergebnis geführt hätte.

Erklärbare KI lohnt sich dort, wo ein Modell Empfehlungen abgibt, die Menschen prüfen und am Ende verantworten müssen. Typische Fälle sind die Bewertung von Anträgen und Kreditgesuchen, die Vorauswahl von Bewerbungen und die Einstufung von Auffälligkeiten in der Prüfung. Bei technischen Vorhersagen ohne Personenbezug tritt der Bedarf dagegen zurück.

Der Vorteil gegenüber einer Ausgabe ohne Erläuterung liegt darin, dass die Fachkraft die Empfehlung prüfen kann, statt sie zu übernehmen. Betroffene erhalten auf Nachfrage eine Auskunft, die über den Verweis auf ein Rechenverfahren hinausgeht. Auffällige Gewichte einzelner Merkmale zeigen zudem Verzerrungen an, bevor sie sich in Widersprüchen niederschlagen.

Eine Erklärung beschreibt, wie das Modell gerechnet hat, und beweist nicht, dass das Ergebnis richtig ist. Der EU AI Act verlangt für Hochrisikosysteme, dass Ausgaben für die anwendende Stelle interpretierbar sind. Die Begründung eines Bescheids muss weiterhin aus der Rechtsnorm folgen.