Re-Ranking ist ein mehrstufiges Retrieval-Verfahren. Ein schnelles Suchsystem erzeugt zunächst eine Menge potenziell relevanter Dokumente oder Passagen; ein zweites, meist rechenintensiveres Modell bewertet diese Kandidaten anschließend genauer und erstellt eine neue Rangfolge.
Was ist Re-Ranking?
Eine Suche findet zu einer Frage zunächst 50 potenziell passende Textabschnitte. Für die Antwort können aber nur fünf davon verwendet werden. Re-Ranking ist der zweite Blick auf diese Kandidaten: Ein präziseres Modell bewertet, welche Treffer tatsächlich am besten zur Anfrage passen.
Das Muster wird häufig als retrieve then rerank bezeichnet. Die erste Stufe optimiert auf Geschwindigkeit und hohe Trefferabdeckung, die zweite auf feinere Relevanz.
Warum nicht direkt das beste Modell auf alle Dokumente anwenden?
Präzise Re-Ranker sind rechenintensiver als klassische Volltext- oder Vektorsuche. Bei einer Million Dokumenten wäre es ineffizient, jedes Dokument einzeln gemeinsam mit der Anfrage durch ein großes Modell zu bewerten.
Deshalb reduziert das Retrieval den Suchraum zuerst auf beispielsweise 20, 50 oder 100 Kandidaten.
Cross Encoder als Re-Ranker
Ein verbreitetes Verfahren sind Cross Encoder. Dabei werden Query und Dokument gemeinsam in ein Transformer-Modell gegeben. Das Modell kann dadurch Wechselwirkungen zwischen den Wörtern beider Texte direkt berücksichtigen.
[Query] + [Dokument] → Relevanzscore. Für jeden Kandidaten wird ein neuer Score berechnet und die Liste danach sortiert.
Nogueira und Cho zeigten bereits 2019, dass ein BERT-basiertes Passage Re-Ranking die Qualität auf etablierten Retrieval-Benchmarks deutlich verbessern kann.
Re-Ranking in einem RAG-System
Bei RAG ist die Reihenfolge besonders wichtig, weil nur ein begrenzter Teil der gefundenen Dokumente in den Modellkontext gelangt. Ein schwaches Ranking kann dazu führen, dass relevante Informationen zwar gefunden, aber nicht ausgewählt werden.
Hybrid Search liefert 40 Kandidaten aus Keyword- und Vektorsuche. Ein Re-Ranker bewertet diese erneut und wählt die fünf stärksten Passagen für die Antwortgenerierung aus.
Re-Ranking kann Retrieval nicht reparieren
Ein Re-Ranker kann nur Kandidaten neu sortieren, die vorher gefunden wurden. Fehlt das relevante Dokument vollständig in der Kandidatenmenge, kann die zweite Stufe es nicht zurückholen.
Deshalb müssen Chunking, Indexierung, Query-Verarbeitung und erste Retrieval-Stufe weiterhin gut funktionieren.
Wie viele Kandidaten sollte man re-ranken?
Es gibt keinen universellen Wert. Mehr Kandidaten erhöhen die Chance, relevante Dokumente zu berücksichtigen, verursachen aber mehr Kosten und Latenz. Sinnvoll ist eine Evaluation mit eigenen Fragen und Kennzahlen wie Recall@k, MRR oder nDCG.
Typische Fehler
- Re-Ranking wird eingeführt, ohne Retrieval-Qualität vorher zu messen.
- Zu viele Kandidaten erhöhen die Antwortzeit unnötig.
- Dokumente sind für den Re-Ranker zu lang oder schlecht geschnitten.
- Das Modell passt sprachlich oder fachlich nicht zum Datenbestand.
Re-Ranking ist auch eine Latenzentscheidung
Jeder zusätzliche Kandidat muss vom Re-Ranker bewertet werden. Bei interaktiven Anwendungen kann der Unterschied zwischen 20 und 200 Kandidaten deshalb unmittelbar in der Antwortzeit sichtbar werden. Größere Modelle sind zudem nicht automatisch wirtschaftlicher, wenn eine kleinere Variante nahezu dieselbe Rankingqualität erreicht.
In der Praxis lohnt sich eine Kurve aus Qualität gegen Latenz und Kosten. Der beste Punkt liegt selten beim maximal möglichen Modell, sondern dort, wo zusätzliche Rechenzeit nur noch geringe Relevanzgewinne bringt.
Fazit
Re-Ranking ist eine gezielte zweite Retrieval-Stufe. Ein schnelles Verfahren findet Kandidaten, ein präziseres Modell bringt sie in eine bessere Reihenfolge. Gerade bei RAG kann diese zusätzliche Stufe die Qualität deutlich erhöhen – vorausgesetzt, relevante Dokumente gelangen bereits in die Kandidatenmenge und die Verbesserung wird mit realen Testfragen gemessen.
Passende Leistungen von Wils Solutions
Häufige Fragen
Was macht ein Re-Ranker?
Ein Re-Ranker bewertet bereits gefundene Suchtreffer erneut und sortiert sie nach einem präziseren Relevanzscore.
Was ist ein Cross Encoder?
Ein Cross Encoder verarbeitet Anfrage und Dokument gemeinsam und kann dadurch ihre direkte inhaltliche Beziehung bewerten.
Ist Re-Ranking dasselbe wie Vektorsuche?
Nein. Vektorsuche ist häufig eine erste Retrieval-Stufe. Re-Ranking arbeitet auf der daraus entstandenen Kandidatenliste.
Kann Re-Ranking fehlende Dokumente finden?
Nein. Ein Re-Ranker kann nur Kandidaten neu bewerten, die die erste Retrieval-Stufe bereits geliefert hat.