Was bedeutet Bias?

Bias bezeichnet eine systematische Verzerrung in den Ergebnissen eines KI-Modells, die bestimmte Gruppen oder Merkmale regelmäßig bevorzugt oder benachteiligt. Die Verzerrung ist kein Zufallsfehler einzelner Fälle, sondern wiederholt sich bei jeder Anwendung in dieselbe Richtung. Sie entsteht in den Trainingsdaten, in der gewählten Zielgröße oder in der Art, wie die Güte eines Modells gemessen wird.

Von Data Bias spricht man, wenn die Trainingsdaten die spätere Zielgruppe nicht abbilden, etwa weil eine Gruppe im Datensatz kaum vorkommt. Label Bias entsteht, wenn die vergebenen Zielwerte selbst eine frühere Ungleichbehandlung enthalten und das Modell diese Praxis fortschreibt. Algorithmic Bias geht auf die gewählte Zielgröße zurück: Wer auf kurze Bearbeitungsdauer optimiert, benachteiligt damit die aufwendigen Fälle. Messbar wird all das erst, wenn die Fehlerraten getrennt nach Gruppen ausgewiesen werden.

Zum Problem wird Bias überall dort, wo ein Modell Menschen einordnet oder über den Zugang zu etwas Knappem mitentscheidet. Betroffen sind die Vorauswahl von Bewerbungen, die Bewertung von Kreditanträgen, die Priorisierung von Behandlungen und die Vergabe von Fördermitteln. Bei rein technischen Anwendungen wie einer Verschleißprognose fällt eine Verzerrung dagegen kaum ins Gewicht.

Der Nutzen einer getrennten Auswertung nach Gruppen liegt darin, dass die Verzerrung auffällt, bevor Betroffene sie melden oder Widerspruch einlegen. Eine dokumentierte Zusammensetzung der Trainingsdaten zeigt Lücken bereits vor dem Einsatz. Und wenn die Zielgröße bewusst gewählt und begründet wird, verlagert sich die Diskussion von der Technik zurück auf die fachliche Entscheidung.

Verzerrungen gehören zum maschinellen Lernen wie Messfehler zur Messtechnik. Der EU AI Act zielt deshalb nicht auf Fehlerfreiheit, sondern auf Nachweise. Für Hochrisikosysteme verlangt er eine geprüfte Datengrundlage, nach Gruppen ausgewiesene Fehlerraten und eine benannte Verantwortung für die Auswirkungen.