Was bedeutet KI-Governance?

KI-Governance bezeichnet die verbindlichen Regeln einer Organisation für die Auswahl, den Einsatz und die Überwachung von KI-Systemen. Sie legt fest, wer über einen Einsatz entscheidet, wer ihn im laufenden Betrieb verantwortet und woran ein Abbruch festgemacht wird. Von einer Leitlinie unterscheidet sie sich darin, dass sie Zuständigkeiten benennt und Verfahren vorschreibt, statt Absichten zu formulieren.

Der Kern ist ein Verzeichnis aller eingesetzten Systeme mit Zweck, Datengrundlage, Modellversion, Betriebsort und verantwortlicher Person. Jedes Verfahren bekommt eine Risikostufe, die den Prüfaufwand bestimmt, und durchläuft vor der Inbetriebnahme einen festgelegten Freigabeweg. Im Betrieb greifen drei Kontrollen: die Überwachung auf Modellabweichung, die regelmäßige Prüfung der Fehlerraten und ein Meldeweg für Auffälligkeiten. Jede Änderung an Modell, Version oder Datenquelle löst eine erneute Freigabe aus.

KI-Governance lohnt sich, sobald mehr als ein Verfahren im Einsatz ist und verschiedene Bereiche eigene Vorhaben starten. Sie klärt einmal die Fragen, die sonst in jedem Projekt neu verhandelt werden: Wer gibt frei, wer prüft nach, wer haftet im Streitfall und wer schaltet im Zweifel ab. Bei einem einzelnen abgegrenzten Verfahren genügt dagegen eine Verfahrensbeschreibung.

Der Vorteil gegenüber Einzelfallentscheidungen liegt in der Vergleichbarkeit. Alle Vorhaben durchlaufen dieselben Schritte, sodass sich Aufwand und Risiko gegeneinander abwägen lassen und Doppelarbeit zwischen Bereichen auffällt. Bei einer Prüfung durch die Aufsicht liegen die Nachweise bereits vor, statt nachträglich aus Projektordnern zusammengesucht zu werden.

Der EU AI Act schreibt ein solches Verzeichnis für Hochrisikosysteme vor und verlangt Angaben zu Daten, menschlicher Aufsicht und Robustheit. Erfüllen lässt sich das nur mit Zugriff auf Modellversion, Datengrundlage und Protokolle, also mit Angaben, die bei eingekauften Diensten vertraglich zugesichert sein müssen.