Reranking, im AI-Kontext.
Reranking sortiert die Treffer einer Vektor-Suche mit einem zweiten, genaueren Modell neu. So landet die wirklich passende Stelle zuverlässig oben.
Reranking ist ein zweiter Bewertungsschritt, der die Treffer einer Vektor-Suche noch einmal genauer gegen die ursprüngliche Frage prüft und neu sortiert. Die schnelle Vektor-Suche holt breit, etwa zwanzig bis fünfzig Kandidaten, das Reranking-Modell betrachtet Frage und Abschnitt gemeinsam und wählt daraus die wenigen besten aus. Das kostet zusätzliche Zeit und Geld pro Anfrage, hebt aber die Trefferqualität dort, wo viele Abschnitte ähnlich klingen. Bekannte Bausteine sind Cohere Rerank als Dienst und offene Cross-Encoder wie die bge-reranker-Familie. Lohnend wird der Schritt, wenn die richtige Antwort zwar gefunden, aber nicht nach oben sortiert wird.
Beispiele aus dem Mittelstand
- Ein Softwarehaus mit vielen fast gleich formulierten Release-Notes sortiert die Treffer nach, damit die richtige Version oben steht.
- Ein Energieberater trennt per Reranking Förderprogramme, die sich nur in Details der Antragsberechtigung unterscheiden.
Folge-Fragen
Wann brauche ich Reranking überhaupt?
Wenn Stichproben zeigen, dass die passende Stelle zwar unter den Treffern ist, aber nicht in den obersten drei. Bei kleinen, klar getrennten Beständen bringt es wenig.
Wie viele Treffer gebe ich weiter?
Breit holen und eng weitergeben ist das Muster: mehrere Dutzend Kandidaten aus der Vektor-Suche, davon die drei bis fünf besten in den Prompt.
Was kostet der zusätzliche Schritt?
Er verlängert die Antwortzeit spürbar und wird je Anfrage abgerechnet. Wer knapp bei Latenz ist, prüft zuerst besseres Chunking.
Ersetzt Reranking ein besseres Embedding-Modell?
Nein. Was die Suche gar nicht findet, kann auch das Reranking nicht retten. Es ordnet nur, was bereits im Kandidatensatz liegt.
Reranking in der Praxis.
Wo dieser Begriff in deinem Geschäft konkret wird, beginnt die Arbeit. Wir nennen klar, ob die Idee in unser Studio passt.
Künstliche Intelligenz