Was bedeutet Embedding?

Ein Embedding ist die Darstellung eines Wortes, eines Satzes, eines Bildes oder eines ganzen Dokuments als Zahlenreihe fester Länge. Inhalte mit ähnlicher Bedeutung erhalten dabei ähnliche Zahlenreihen, sodass sich ihre Nähe zueinander berechnen lässt. Anders als ein Stichwortindex vergleicht ein Embedding die Bedeutung statt der Schreibweise und findet damit auch anders formulierte Treffer.

Erzeugt wird ein Embedding von einem eigens dafür trainierten Modell, das aus dem Text einen Vektor mit typischerweise 384 bis 1.536 Werten berechnet. Die Ähnlichkeit zweier Vektoren ergibt sich aus dem Kosinus des Winkels zwischen ihnen. Gespeichert werden die Vektoren in einer Vektordatenbank, die zu einer Anfrage die nächstgelegenen Einträge zurückgibt. Weil jedes Modell seine eigene Skala aufspannt, lassen sich Vektoren verschiedener Modelle nicht miteinander vergleichen.

Embeddings lohnen sich dort, wo Menschen in Alltagssprache suchen, die Bestände aber in Fachsprache verfasst sind. Typische Anwendungen sind die Suche in Verträgen und Vorschriften, die Zuordnung eingehender Anfragen zu passenden Antworten und das Auffinden ähnlicher Fälle in einer Falldatenbank. Für exakte Treffer wie Aktenzeichen oder Artikelnummern bleibt die klassische Suche überlegen.

Der Vorteil gegenüber einer Volltextsuche liegt darin, dass die Anfrage kein Wort aus dem Dokument enthalten muss. Neue Dokumente lassen sich einzeln einbetten, ohne den gesamten Bestand neu aufzubauen. Weil die Ähnlichkeit als Zahl vorliegt, lässt sich eine Schwelle setzen und schwache Treffer gezielt ausblenden.

Ein Embedding ist keine Form der Verschlüsselung, denn aus einem Vektor lässt sich der ursprüngliche Text in Teilen rekonstruieren. Vektoren personenbezogener Dokumente brauchen deshalb denselben Schutz und dieselben Löschfristen wie die Dokumente selbst. Wer den Bestand löscht, muss auch die Vektordatenbank leeren.