Что такое RAG простыми словами: как работает RAG-система и как научить нейросеть отвечать по вашим документам

Нейросеть знает много, но ничего не знает про ваш прайс, регламенты, договоры и базу клиентов. RAG - это способ дать ей эти знания без переобучения: перед ответом система находит нужные куски ваших документов и подкладывает их модели. Модель отвечает по ним, а не по памяти.

Разберём, что такое RAG простыми словами, как устроена RAG-система, что такое эмбеддинги и векторная база, чем RAG отличается от дообучения и длинного контекста, где он ломается и как запустить его без лишних затрат.

Что такое RAG простыми словами

RAG расшифровывается как Retrieval Augmented Generation, по-русски «генерация, дополненная поиском». Представьте сотрудника на экзамене с открытой книгой: он не помнит всё наизусть, но знает, где посмотреть. Сначала находит нужную страницу, потом отвечает своими словами, опираясь на неё.

Без RAG модель отвечает только по тому, что выучила при обучении. Ваших внутренних данных там нет, поэтому на вопрос про ваш тариф она либо честно скажет «не знаю», либо, что хуже, придумает правдоподобный ответ. С RAG у неё перед глазами нужная страница вашей документации.

Как работает RAG

1. 01Документырегламенты, прайсы, статьи
2. 02Нарезкакуски по смыслу
3. 03Индекспоиск по смыслу, а не по словам
4. 04Вопроснаходим нужные куски
5. 05Ответмодель отвечает по ним со ссылкой

По шагам:

1. Подготовка. Документы приводят в порядок и режут на куски по смыслу: раздел, пункт, ответ на вопрос.
2. Индекс. Каждый кусок превращают в эмбеддинг, числовой «отпечаток смысла», и кладут в векторную базу.
3. Поиск. Когда приходит вопрос, его тоже превращают в эмбеддинг и находят несколько самых близких по смыслу кусков.
4. Ответ. Модель получает вопрос, найденные куски и правило: «отвечай только по ним».
5. Источник. Хорошая система показывает, из какого документа и пункта взят ответ.

Эмбеддинги и векторная база простыми словами

Эмбеддинг - это список чисел, который описывает смысл текста. Тексты с похожим смыслом получают похожие числа, даже если слова в них разные. Например, «как вернуть товар» и «оформление возврата» окажутся рядом, хотя общих слов почти нет.

Векторная база хранит такие эмбеддинги и быстро находит ближайшие к вопросу. Её можно держать на своём сервере: например, в PostgreSQL с расширением pgvector или в отдельной векторной базе вроде Qdrant. Для небольших объёмов хватает и встроенных возможностей конструкторов автоматизации, например n8n.

Поиск: по смыслу и по словам

Поиск только по смыслу иногда промахивается на точных вещах: артикулах, номерах договоров, фамилиях. Поэтому в рабочих системах часто совмещают два поиска: по смыслу и по ключевым словам. Такой поиск называют гибридным. После него найденные куски иногда дополнительно сортируют по полезности, чтобы модели достались самые подходящие.

Нарезка документов: от неё зависит половина качества

• Режьте по смысловым границам: раздел, пункт, вопрос-ответ, а не каждые N символов вслепую.
• Сохраняйте заголовок раздела в каждом куске, иначе кусок «Срок 14 дней» потеряет, к чему он относится.
• Таблицы не разрывайте посередине.
• Держите у каждого куска ссылку на документ и дату, чтобы показывать источник и отсекать устаревшее.

RAG-агент: когда поиска нужно несколько

Простая RAG-система делает один поиск на вопрос. RAG-агент сам решает, нужно ли искать, что именно искать и не поискать ли ещё раз. Например, на вопрос «чем тариф А отличается от тарифа Б» агент найдёт описания обоих тарифов отдельно и только потом сравнит. Агенты полезны для сложных вопросов, но они дороже и медленнее, поэтому начинать лучше с простой схемы.

Промпт для ответов по документам

«Ты ассистент [компания]. Отвечай на вопрос только по фрагментам документов ниже. Если ответа во фрагментах нет, скажи, что не нашёл информации, и предложи связаться со специалистом. Не додумывай. В конце укажи, из какого документа взят ответ. Фрагменты: [найденные куски]. Вопрос: [вопрос]».

Ключевое здесь - правило «нет во фрагментах - скажи, что не знаешь». Без него RAG перестаёт быть надёжным.

Где RAG полезен бизнесу

• Поддержка клиентов. Ассистент отвечает по базе знаний, ценам и условиям и честно передаёт сложные вопросы человеку.
• Внутренний помощник. Сотрудник спрашивает про регламент, отпуск или договор и получает ответ со ссылкой на пункт.
• Продажи. Быстрые ответы по ассортименту, характеристикам и условиям поставки.
• Юристы и закупки. Поиск нужных пунктов по массиву договоров.
• Техническая документация. Инженер спрашивает про параметры оборудования, система находит нужную страницу инструкции. На этом же принципе построен цифровой паспорт оборудования в EnergyAI.

RAG, дообучение или длинный контекст

	RAG	Дообучение	Всё в окно контекста
Как добавить данные	положить документ в базу	обучать заново	вставлять в каждый запрос
Свежесть	сразу после загрузки	после нового обучения	сразу
Источник ответа	можно показать	обычно нельзя	можно, но сложно
Стоимость запроса	низкая, идут только нужные куски	низкая	высокая на больших объёмах
Когда подходит	ответы по документам и фактам	стиль, формат, узкие навыки	небольшие объёмы, разовые задачи

Для большинства задач «ответь по нашим документам» правильный выбор - RAG. Длинный контекст хорош, когда документов мало, а дообучение - когда нужно научить модель манере или формату, а не фактам.

Где RAG ломается

• Плохая нарезка. Кусок обрывается на середине таблицы, и ответ получается неполным.
• Устаревшие документы. В базе старый прайс, и система уверенно его называет.
• Нашлось не то. Похожие по словам, но разные по смыслу документы мешают друг другу.
• Нет правила «не знаю». Если ответа в документах нет, модель начинает додумывать.
• Противоречия в документах. Две версии регламента, и система выбирает случайную.
• Нет проверки. Систему не проверили на реальных вопросах до запуска.

Как оценить качество RAG

Соберите 30-50 реальных вопросов и правильные ответы на них. Прогоните через систему и посчитайте три вещи: сколько ответов верные, у скольких указан правильный источник и как часто система честно говорит «не знаю», когда ответа в документах нет. Последний показатель не менее важен, чем первый: уверенная выдумка вредит сильнее, чем честное «уточню».

Как запустить RAG без лишних затрат

1. Соберите 30-50 реальных вопросов, на которые нужно отвечать.
2. Подготовьте документы, которые на них отвечают, и уберите устаревшие.
3. Соберите простую цепочку: поиск, модель, правило «только по документам».
4. Проверьте на этих вопросах и посмотрите, где ошибается.
5. Подключите к каналу: сайт, Telegram, внутренний мессенджер.
6. Назначьте ответственного за свежесть базы.

Стоимость складывается из подготовки документов, хранения базы и запросов к модели. Расход на модель обычно небольшой: в запрос идут только найденные куски, а не весь архив. Про токены и расчёт бюджета есть отдельная статья.

Частые вопросы

Что такое RAG простыми словами?

Это способ, при котором нейросеть перед ответом находит нужные куски ваших документов и отвечает по ним, а не по своей памяти.

Что такое RAG-система?

Это связка из базы документов, поиска по смыслу и языковой модели с правилом отвечать только по найденному.

Что такое технология RAG для LLM?

Это способ дополнить большую языковую модель (LLM) внешними знаниями во время ответа, не меняя саму модель.

Нужно ли переобучать модель для RAG?

Нет. Модель остаётся той же, меняются только документы, которые ей подкладывают.

Что такое эмбеддинги?

Это числовые «отпечатки смысла» текста. По ним система находит фрагменты, близкие к вопросу по смыслу, даже если слова разные.

Может ли RAG ошибаться?

Может, если документы устарели или поиск нашёл не то. Поэтому нужны проверка на реальных вопросах, ссылки на источник и правило «нет в документах - скажи, что не знаешь».

Сколько стоит внедрить RAG?

Зависит от объёма документов, каналов и требований к качеству. Ассистент по базе знаний начинается с небольших проектов, система с агентами и интеграциями стоит дороже.