Reranking
Von Christian Synoradzki · Aktualisiert am
Reranking ist eine zweite Sortierstufe bei der Suche: Ein eigenes Modell prüft die zunächst gefundenen Textstellen noch einmal genau und ordnet sie danach, wie gut sie wirklich zur Frage passen.
Bei einem Wissens-Chatbot entscheidet die Suche über die Qualität der Antwort. Findet sie die falschen Stellen, formuliert das Sprachmodell eine gut klingende, aber falsche Antwort. Reranking ist einer der wirksamsten Schritte, um das zu verhindern.
Woher der Begriff stammt
„Rank“ heißt Rang, „Reranking“ also Neuordnen. Suchmaschinen arbeiten seit Langem in mehreren Stufen: Eine schnelle Suche holt viele Kandidaten, eine gründlichere Bewertung sortiert sie danach. Mit Retrieval Augmented Generation ist dieses Prinzip in KI-Anwendungen für Unternehmen angekommen.
Was Reranking genau tut
Die erste Suche muss schnell sein, weil sie Tausende Abschnitte durchsuchen muss. Dafür vergleicht sie meist nur Embeddings, also vorab berechnete Zahlenreihen. Das ist schnell, aber grob.
Der Reranker arbeitet anders. Er bekommt die Frage und jeden gefundenen Abschnitt zusammen zu sehen und bewertet, wie gut beides zusammenpasst. Der Anbieter Cohere beschreibt es so: Der Reranker ordnet Dokumente von den am meisten zu den am wenigsten passenden. Das ist genauer, aber langsamer. Deshalb prüft er nur die Kandidaten der ersten Suche, nicht alle Dokumente.
Anthropic hat dieses Vorgehen 2024 getestet. Die erste Suche holte 150 Abschnitte, der Reranker wählte daraus die besten 20 aus. Zusammen mit weiteren Verbesserungen sank der Anteil der Fälle, in denen die richtige Stelle fehlte, um 67 Prozent.
Abgrenzung zu ähnlichen Begriffen
Erste Suche (Retrieval): Sie findet aus allen Dokumenten eine Vorauswahl. Reranking sortiert nur diese Vorauswahl neu.
Hybride Suche: Sie verbessert die erste Stufe, indem sie zwei Suchverfahren kombiniert. Reranking ist eine zusätzliche Stufe danach. Beides lässt sich kombinieren.
Chunking: Chunking legt fest, welche Abschnitte es überhaupt gibt. Ein Reranker kann nur so gut sortieren, wie die Abschnitte geschnitten sind.
Was das für Ihr Unternehmen bedeutet
Reranking lohnt sich vor allem, wenn Ihre Dokumente sich ähneln. Typische Beispiele sind Datenblätter zu ähnlichen Produkten, Verträge mit gleichem Aufbau oder Handbücher in mehreren Versionen. Hier findet die erste Suche oft mehrere fast passende Stellen, und der Reranker trennt die richtige von den ähnlichen.
Für Sie als Betreiber ist Reranking ein vergleichsweise kleiner Eingriff. Es wird als zusätzlicher Schritt eingebaut, die vorhandenen Daten bleiben unverändert. Die Kosten fallen pro Suchanfrage an und sind meist gering im Vergleich zum Sprachmodell selbst.
Wie wir Suche und Reranking in Chatbots für Firmenwissen einsetzen, zeigen wir auf der Seite zu KI-Chatbots.
Grenzen dessen, was man sicher weiß
Wie viel ein Reranker bringt, hängt stark von Ihren Daten und Fragen ab. Die Zahlen von Anthropic stammen aus eigenen Tests und gelten für die Kombination mehrerer Verfahren, nicht für Reranking allein.
Ein Reranker kann außerdem nur unter dem sortieren, was die erste Suche geliefert hat. Fehlt die richtige Stelle schon in der Vorauswahl, hilft auch der beste Reranker nicht. Deshalb gehört er immer zusammen mit einer guten ersten Suche betrachtet.
Häufig gestellte Fragen
Lohnt sich Reranking auch bei wenigen Dokumenten?
Bei sehr wenigen Dokumenten oft nicht, weil die erste Suche ohnehin die richtigen Stellen findet. Ab einigen hundert Seiten mit ähnlichen Inhalten, etwa vielen Produktdatenblättern, macht sich ein Reranker meist bemerkbar.
Funktioniert Reranking auf Deutsch?
Ja, mit mehrsprachigen Modellen. Der Anbieter Cohere gibt an, seine Reranking-Modelle für über 100 Sprachen trainiert zu haben, weist aber darauf hin, dass die Qualität je nach Sprache schwanken kann. Testen Sie deshalb mit deutschen Fragen.
Macht Reranking die Antwort langsamer?
Etwas, weil ein zusätzlicher Schritt läuft. Bei den meisten Anwendungen fällt das kaum auf. Bei Telefon-Anwendungen, die sehr schnell antworten müssen, sollte man es messen.
Quellen
Siehe auch: Chunking , Hybride Suche , Retrieval Augmented Generation (RAG)
Sie möchten wissen, was das für Ihr Unternehmen bedeutet? Vereinbaren Sie ein kostenloses Beratungsgespräch.