Direkt zum Inhalt
Text-Technology
Navigation

Definition

Reranking

Reranking ordnet die zunächst gefundenen Treffer ein zweites Mal nach ihrer tatsächlichen Passung zur Anfrage neu.

Beim Reranking werden die ersten Suchtreffer, die meist schnell und grob gefunden wurden, erneut bewertet. Ein genaueres Verfahren prüft dann, wie gut jede Passage zur konkreten Frage passt, und ordnet die Liste entsprechend neu. So rücken die wirklich relevanten Stellen nach oben.

In RAG-Systemen ist das besonders nützlich, weil nur wenige Passagen ins Kontextfenster passen. Die Auswahl der richtigen Stellen entscheidet dann, was das Modell überhaupt sehen kann.

Der Nachteil ist der zusätzliche Rechenaufwand. Ob er sich lohnt, zeigt eine Prüfung mit echten Fragen aus dem eigenen Bestand. Gerade bei Fachfragen zeigt sich der Nutzen, weil eine Passage mit ähnlichen Wörtern nicht automatisch die richtige Antwort enthält.

Verwandte Begriffe

  • RAGRAG ist ein Verfahren, bei dem ein Sprachmodell vor der Antwort passende Dokumente aus einer eigenen Quelle abruft und diese in die Anfrage einbezieht.
  • EmbeddingEmbedding ist eine Darstellung von Wörtern, Sätzen oder Texten als Vektor aus Zahlen, in dem ähnliche Bedeutungen nahe beieinander liegen.
  • KontextfensterKontextfenster ist die maximale Menge an Tokens, die ein Sprachmodell in einer einzelnen Anfrage gleichzeitig berücksichtigen kann.
  • VektordatenbankVektordatenbank ist ein Speichersystem, das Embeddings ablegt und die ähnlichsten Vektoren zu einer Anfrage schnell findet.