Loading...

⚡

Fortgeschrittenes RAG(ARAG)

Erweitertes RAG mit Optimierungen vor und nach dem Retrieval, darunter Query-Erweiterung, Reranking und Kontextkuratierung

Komplexität: mediumWissensabruf (RAG)

In 30 seconds

What: Ruft Dokumente über Query-Expansion, hybride Sparse-Dense-Suche, Reranking mit Cross-Encodern und kuratierte Kontextzusammenstellung ab, bevor sie an das Modell gehen.
When to use: Wissensintensive Aufgaben, bei denen die Retrieval-Qualität die Antwortgenauigkeit direkt bestimmt, besonders bei großen oder verrauschten Dokumentbeständen.
Watch out: Die sich addierende Latenz aus mehreren Retrieval-Durchläufen und Reranking-Stufen kann die Antwortzeit für Echtzeitanwendungen untragbar machen.

Loading technique guide…

Patterns

Loading...

Entwurfsmuster und Techniken

Loading...

⚡

Fortgeschrittenes RAG(ARAG)

Erweitertes RAG mit Optimierungen vor und nach dem Retrieval, darunter Query-Erweiterung, Reranking und Kontextkuratierung

Komplexität: mediumWissensabruf (RAG)

In 30 seconds

What: Ruft Dokumente über Query-Expansion, hybride Sparse-Dense-Suche, Reranking mit Cross-Encodern und kuratierte Kontextzusammenstellung ab, bevor sie an das Modell gehen.
When to use: Wissensintensive Aufgaben, bei denen die Retrieval-Qualität die Antwortgenauigkeit direkt bestimmt, besonders bei großen oder verrauschten Dokumentbeständen.
Watch out: Die sich addierende Latenz aus mehreren Retrieval-Durchläufen und Reranking-Stufen kann die Antwortzeit für Echtzeitanwendungen untragbar machen.

30-Sekunden-Überblick

Muster: Erweiterte Abruf-Pipeline mit Query-Vorverarbeitung, mehrstufigem Abruf, neuronalem Reranking und Kontextoptimierung

Warum: Behebt die Grenzen von naivem RAG durch Anfrageverständnis, Relevanzbewertung und Optimierung der Kontextqualität

Kernerkenntnis: Optimierung vor dem Abruf + Verarbeitung nach dem Abruf verbessern Genauigkeit und Relevanz deutlich

Schnelle Umsetzung

1Vorverarbeiten:Query-Erweiterung, -Umformulierung, -Routing

2Mehrfach-Abruf:Mehrere Abrufstrategien und Quellen

3Neu ranken:Neuronale Reranker (BGE, Cohere usw.)

4Filtern:Relevanzbewertung und Kontextauswahl

5Generieren:Kontextoptimierte Generierung mit Quellenangaben

Example: expand_query → multi_retrieve → neural_rerank → filter_context → generate_with_citations

Do’s und Don’ts

✅Query-Erweiterung umsetzen (HyDE, query2doc)

✅Neuronale Reranker einsetzen (BGE-reranker, Cohere rerank)

✅Sentence-Window-Retrieval anwenden, um Kontext zu bewahren

✅Relevanzfilterung mit Konfidenzschwellen umsetzen

✅Mehrere Embedding-Modelle für Abrufvielfalt nutzen

❌Vorverarbeitung und Erweiterung der Anfrage überspringen

❌Beim Ranking allein auf semantische Ähnlichkeit setzen

❌Signale zu Dokumentqualität und Aktualität ignorieren

❌Zu viel abrufen ohne geeignete Filtermechanismen

❌Die Optimierung des Kontextfensters vernachlässigen

Wann einsetzen

Einsetzen, wenn

• Produktive RAG-Systeme mit hohen Genauigkeitsanforderungen
• Komplexe Anfragen, die kontextuelles Verständnis erfordern
• Große Wissensbasen mit verrauschten Inhalten
• Domänenübergreifende oder heterogene Datenquellen
• Anwendungen, die Quellenangaben erfordern

Vermeiden, wenn

• Einfache Fakten-Q&A mit sauberen Daten
• Umgebungen mit begrenzten Ressourcen
• Echtzeitanwendungen (Latenz <100ms)
• Kleine Wissensbasen mit hochwertigen Inhalten
• Proof-of-Concept- oder Prototypsysteme

Kennzahlen

Abrufpräzision

Relevante Dokumente in den Top-k nach dem Reranking

Treue der Antwort

Erzeugte Inhalte, die in den abgerufenen Dokumenten verankert sind

Kontextrelevanz

Relevanz des abgerufenen Kontexts für die Anfrage

Wirksamkeit des Rerankings

NDCG@k-Verbesserung gegenüber dem Basisabruf

Anfrageverständnis

Semantische Ähnlichkeit nach Erweiterung/Umformulierung

End-to-End-Latenz

Einschließlich Overhead für Vorverarbeitung und Reranking

Wichtigste Anwendungsfälle

Unternehmenssuche: komplexe Anfragen über große Firmenwissensbasen mit Reranking

Juristische Recherche: Multi-Hop-Reasoning über Rechtsprechung mit Query-Erweiterung und Relevanzfilterung

Medizinische Q&A: klinische Anfragen mit domänenspezifischen Rerankern und Konfidenzbewertung

Technische Dokumentation: Entwickleranfragen mit code-bewusstem Abruf und Kontextoptimierung

Forschungsassistent: akademische Anfragen mit Zitationsverfolgung und Multi-Source-Abruf

Referenzen und weiterführende Literatur

Vertiefen Sie Ihr Verständnis mit diesen ausgewählten Ressourcen

Fortgeschrittene RAG-Übersichten und -Frameworks

Retrieval-Augmented Generation for Large Language Models: A Survey (Gao et al., 2023)

Seven Failure Points When Engineering a Retrieval Augmented Generation System (Barnett et al., 2024)

RAG vs Fine-tuning: Pipelines, Tradeoffs, and a Case Study (Ovadia et al., 2023)

A Comprehensive Survey of RAG: Evolution and Future Directions (Gupta et al., 2024)

Query-Verbesserung und Vorverarbeitung

Precise Zero-Shot Dense Retrieval without Relevance Labels

Query2doc: Query Expansion with Large Language Models (Wang et al., 2023)

Query Rewriting for Retrieval-Augmented Large Language Models

Active Retrieval Augmented Generation (Jiang et al., 2023)

Neuronales Reranking und Relevanzbewertung

M3-Embedding: Multi-Linguality, Multi-Functionality, Multi-Granularity Text Embeddings Through Self-Knowledge Distillation

FlagEmbedding: Dense Retrieval and Retrieval-augmented LLMs (BAAI, 2023)

Dokumentation und Best Practices der Cohere Rerank API

Kontextoptimierung und Chunking

Lost in the Middle: How Language Models Use Long Contexts (Liu et al., 2023)

LongLLMLingua: Accelerating and Enhancing LLMs in Long Context Scenarios via Prompt Compression

Recursive Character Text Splitter: LangChain-Dokumentation

Implementierungs-Frameworks und Werkzeuge

Implementierung des LangChain Multi-Vector Retriever

Dokumentation der Haystack-Retriever

Dokumentation der hybriden Suche in Weaviate (Dense + Sparse)

Evaluierung und Benchmarking

RAGAS: automatisierte Evaluierung von RAG-Anwendungen

BEIR: A Heterogenous Benchmark for Zero-shot Evaluation of Information Retrieval Models