RAG

Что такое RAG?

Retrieval-Augmented Generation (RAG) - это ИИ-архитектура, разработанная для решения главной слабости больших языковых моделей (LLM) - ограничения статичных обучающих данных. Прежде чем ответить на запрос пользователя, системы RAG извлекают в реальном времени релевантные документы или фрагменты данных из базы знаний и передают этот контекст LLM. Модель генерирует ответ на основе предоставленных актуальных данных, а не собственной "памяти".

Основные преимущества этого подхода: Снижение галлюцинаций - модели больше не нужно строить догадки для информации за пределами обучающих данных. Актуальность знаний - базу знаний можно обновлять без переобучения модели. Доменная специфичность - внутренние данные компании, специальные документы и каталоги продуктов могут быть интегрированы напрямую. Прозрачность источников - источник ответа может быть показан пользователю.

Компоненты архитектуры RAG

В RAG-проектах Detartech мы используем следующие компоненты: Document Ingestion - источники, такие как PDF, Word, HTML и записи базы данных, обрабатываются и разбиваются на текстовые фрагменты (chunks). Embedding & Vector Store - фрагменты преобразуются в векторные представления и сохраняются в векторной базе данных (pgvector, Pinecone, Qdrant). Semantic Retrieval - запрос пользователя векторизуется, и наиболее релевантные фрагменты находятся с помощью поиска по семантическому сходству. Generation - найденный контекст передается LLM вместе с системным промптом, и генерируется ответ.