Loading...

📚

Наивный RAG(NRAG)

Базовый фреймворк «Retrieve-Read», следующий традиционному процессу индексации, извлечения и генерации

Сложность: lowИзвлечение знаний (RAG)

In 30 seconds

What: Извлекает наиболее подходящие фрагменты документов семантическим поиском, склеивает их в промпте и затем генерирует ответ.
When to use: Простые фактические вопросы по хорошо проиндексированным документам, где качество поиска высокое и многошаговые рассуждения не нужны.
Watch out: Извлечённые фрагменты могут противоречить друг другу или содержать нерелевантный шум, что без ранжирования и фильтрации ухудшает качество ответа.

Loading technique guide…

Patterns

Loading...

Паттерны и методы проектирования

Loading...

📚

Наивный RAG(NRAG)

Базовый фреймворк «Retrieve-Read», следующий традиционному процессу индексации, извлечения и генерации

Сложность: lowИзвлечение знаний (RAG)

In 30 seconds

What: Извлекает наиболее подходящие фрагменты документов семантическим поиском, склеивает их в промпте и затем генерирует ответ.
When to use: Простые фактические вопросы по хорошо проиндексированным документам, где качество поиска высокое и многошаговые рассуждения не нужны.
Watch out: Извлечённые фрагменты могут противоречить друг другу или содержать нерелевантный шум, что без ранжирования и фильтрации ухудшает качество ответа.

Обзор за 30 секунд

Паттерн: Простой конвейер retrieve-then-read: запрос → извлечь документы → конкатенировать → сгенерировать

Почему: Даёт доступ к внешним знаниям при минимальной сложности - базовый подход, предложенный Lewis et al. (2020)

Ключевая идея: Прямое присоединение top-k извлечённых документов к промпту запроса - без оптимизации и постобработки

Быстрая реализация

1Индексация:Создать векторные эмбеддинги базы знаний

2Извлечение:Найти top-k релевантных документов по сходству

3Конкатенация:Добавить извлечённые документы к промпту запроса

4Генерация:Отправить объединённый промпт в LLM

5Возврат:Вернуть сгенерированный ответ напрямую

Example: query → vector_search → concat_context → llm_generate → response

Что делать и чего избегать

✅Использовать семантические эмбеддинги (например, sentence-transformers)

✅Реализовать базовую стратегию чанкинга (фиксированный размер 512-1024 токенов)

✅Задать чёткие лимиты top-k при извлечении (обычно 3-5 документов)

✅Включать метаданные документов и указание источника

✅Использовать FAISS или аналог для эффективного векторного поиска

❌Пропускать предобработку или нормализацию запроса

❌Извлекать слишком много документов (загрязняет контекст)

❌Игнорировать пороги оценки релевантности

❌Склеивать документы без чётких границ

❌Ожидать изощрённых рассуждений от базового подхода

Когда использовать

Используйте, когда

• Простые Q&A по документам
• RAG-системы уровня proof-of-concept
• Допустима лишь ограниченная техническая сложность
• Небольшие и средние базы знаний
• Прямые фактические запросы

Избегайте, когда

• Требуется сложное многошаговое рассуждение
• Критичные приложения с высокими требованиями к точности
• Крупномасштабные промышленные системы
• Зашумлённые или противоречивые базы знаний
• Требования к производительности в реальном времени

Ключевые метрики

Точность извлечения

Релевантные документы в top-k (Recall@k)

Качество ответов

Оценки BLEU/ROUGE относительно эталона

Время отклика

Сквозная задержка (извлечение + генерация)

Использование контекста

% извлечённого контекста, использованного в ответе

Доля галлюцинаций

% ответов с неподтверждёнными утверждениями

Указание источников

% ответов с корректными ссылками на источники

Основные сценарии использования

Q&A по документам: простые фактические вопросы к корпоративным документам или базам знаний

FAQ-системы: автоматические ответы на частые вопросы на основе имеющейся документации

Помощь в исследованиях: базовый поиск информации в научных статьях или коллекциях исследований

Клиентская поддержка: запросы первой линии, на которые отвечают документация и руководства

Образовательные инструменты: простые вопросы и ответы по учебникам и учебным материалам

Источники и дополнительные материалы

Углубите понимание с помощью этих подобранных материалов

Основополагающие статьи

Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al., 2020)

Dense Passage Retrieval for Open-Domain Question Answering (Karpukhin et al., 2020)

Retrieval Augmentation Reduces Hallucination in Conversation

Обзорные работы

Retrieval-Augmented Generation for Large Language Models: A Survey (Gao et al., 2023)

A Comprehensive Survey of RAG: Evolution and Future Directions (Gupta et al., 2024)

Retrieval-Augmented Generation for AI-Generated Content: A Survey (Li et al., 2024)

RAG and RAU: A Survey on Retrieval-Augmented Language Model (Zhao et al., 2024)

Ресурсы по реализации

Учебник по RAG в LangChain - базовая реализация

Документация и примеры RAG в Hugging Face

Руководство OpenAI по реализации RAG

Учебник LlamaIndex по базовому RAG-конвейеру

Решения для векторных баз данных

FAISS - библиотека Facebook AI Similarity Search

Документация векторной базы Pinecone

Векторный поисковый движок Weaviate

Chroma - открытая база эмбеддингов

Модели эмбеддингов и оценка

Sentence-BERT: Sentence Embeddings using Siamese BERT (Reimers & Gurevych, 2019)

Text and Code Embeddings by Contrastive Pre-Training (OpenAI, 2022)

MTEB: Massive Text Embedding Benchmark (Muennighoff et al., 2022)

BGE: документация модели BAAI General Embedding

Фреймворки оценки

RAGAS: фреймворк оценки RAG-приложений

TruLens: оценка и отслеживание LLM-приложений

LangSmith: тестирование и мониторинг LLM-приложений