Was bedeutet Trainingsdaten?

Trainingsdaten sind die Beispiele, aus denen ein Modell seine Regeln ableitet. Beim überwachten Lernen besteht jedes Beispiel aus einer Eingabe und dem zugehörigen richtigen Ergebnis, etwa einem Dokument und seiner Kategorie. Von den Testdaten unterscheiden sie sich dadurch, dass das Modell die Testdaten nie zu sehen bekommt und daran später gemessen wird.

Am Anfang steht die Auswahl: Welche Fälle werden aufgenommen, aus welchem Zeitraum stammen sie und wie sind die Kategorien verteilt. Danach folgt die Annotation, also die Vergabe des richtigen Ergebnisses durch Fachleute, meist mit einer Zweitprüfung bei strittigen Fällen. Aufbereitung und Bereinigung entfernen Dubletten und fehlerhafte Einträge. Üblich ist eine Aufteilung von etwa 70 Prozent Training, 15 Prozent Validierung und 15 Prozent Test.

Die Frage nach den Trainingsdaten stellt sich bei jedem eigenen Modell und bei jeder Anpassung eines vorhandenen. Betroffen sind Klassifikatoren für Texte und Bilder, Prognosemodelle und feinjustierte Sprachmodelle. Wer ein fertiges Modell ohne Anpassung nutzt, arbeitet dagegen mit den Daten des Anbieters.

Der Aufwand für die Annotation wird regelmäßig unterschätzt, zahlt sich aber gegenüber größeren Datenmengen aus. Ein kleiner, sorgfältig geprüfter Datensatz liefert bessere Ergebnisse als ein großer mit uneinheitlichen Kategorien. Weil die Zuordnung von Menschen stammt, lässt sich außerdem nachvollziehen, worauf eine Entscheidungsregel beruht.

Trainingsdaten legen fest, welche Fälle ein Modell überhaupt kennt. Fehlen bestimmte Gruppen oder Zeiträume, entsteht eine Verzerrung im Ergebnis. Deshalb müssen Herkunft, Zeitraum und Zusammensetzung dokumentiert werden, bei Hochrisikosystemen verlangt das auch der EU AI Act.