Коротко: RAG — это способ заставить нейросеть отвечать по вашим документам, а не по «среднему интернету». Модель сначала ищет нужные фрагменты в вашей базе, потом формулирует ответ по ним и показывает источник. Нет фрагмента — нет ответа: бот честно отправляет вопрос человеку.
Как это работает в четыре шага
- Индексация. Ваши регламенты, прайсы и инструкции режутся на фрагменты и превращаются в векторы — «координаты смысла».
- Поиск. Вопрос клиента тоже превращается в вектор. Совпадения ищутся по смыслу: «сколько стоит доставка» найдёт пункт «тарифы на доставку» без точного совпадения слов.
- Ответ. Модель получает найденные фрагменты и пишет ответ строго по ним, со ссылкой на документ.
- Отказ. Подходящих фрагментов нет — бот говорит, что не знает, и передаёт диалог человеку. Вопрос попадает в отчёт: базу дополняют.
Чем RAG отличается от «просто ChatGPT»
ChatGPT отвечает из общих знаний: уверенно, гладко и иногда выдумывает ваши цены, сроки и законы. RAG отвечает только из ваших документов — фантазировать не из чего. Для бизнеса это разница между «интересной болтовнёй» и инструментом, который можно показать клиенту.
Где RAG применяется
- Бот по продукции и ценам на сайте и в мессенджерах.
- Внутренний помощник по регламентам для сотрудников.
- Поиск по базе договоров, инструкций, тикетов поддержки.
Ограничения, о которых надо знать
RAG не оживит мёртвые документы: если база устарела, ответы будут правильные для прошлого года. Второе ограничение — качество нарезки: сканы без текста индексировать нечего. Обе проблемы решаются на этапе пилота, но бюджет на них закладывают заранее.
Из чего собирается RAG-система
За словом «RAG» стоит не одна программа, а несколько частей, и у каждой своя зона ответственности. Знать их полезно заказчику: так проще понять, за что вы платите и где искать причину, если бот отвечает неточно.
| Часть | Что делает | Что ломается, если сделана плохо |
|---|---|---|
| Загрузчик документов | читает PDF, Word, таблицы, страницы сайта, выгрузки из CRM | сканы без текста и сложные таблицы превращаются в кашу |
| Нарезка на фрагменты | делит текст на куски по смыслу, а не по числу знаков | ответ теряет контекст: цена отдельно, условия отдельно |
| Векторная база | хранит «координаты смысла» каждого фрагмента (подробнее) | поиск находит похожее по словам, но не по смыслу |
| Поиск и отбор | находит несколько самых подходящих фрагментов под вопрос | бот отвечает по соседней теме или не находит ответ, который есть |
| Языковая модель | пишет ответ только по найденным фрагментам (системный промпт) | выдумывает недостающее или отвечает слишком общо |
| Контроль и отчёты | логирует вопросы, источники, «не знаю» | вы не видите пробелы базы и не улучшаете бота |
Хорошая новость: большинство проблем качества лежит в первых двух строках, то есть в подготовке документов, а не в «умности» модели. Как привести документы в порядок, описано в статье как подготовить документы к RAG.
Пример: бот клиники отвечает на вопрос о цене
Клиент пишет: «сколько стоит чистка зубов и нужна ли запись заранее?». Без RAG модель ответит общими словами и, скорее всего, назовёт среднюю цену по рынку, которой в вашей клинике нет. С RAG цепочка выглядит иначе:
- Вопрос превращается в вектор и ищется в базе.
- Находятся два фрагмента: строка прайса «Профессиональная чистка» и абзац регламента «Запись на гигиену осуществляется за сутки».
- Модель собирает ответ строго из них: цена из прайса, условие записи из регламента, ссылка на источник.
- Если в прайсе строки нет, бот пишет «уточню у администратора» и передаёт диалог человеку.
Именно последний пункт отличает рабочего бота от опасной игрушки. Подробный разбор того, как строится такой бот, есть на странице «ИИ-бот по базе знаний (RAG)», а о том, как это сочетается с законом о персональных данных, в статье ИИ и 152-ФЗ.
RAG, дообучение или просто длинный промпт
Есть три способа «научить» модель вашим данным, и путают их постоянно.
- Длинный промпт: вставить всю инструкцию и документы в каждый запрос. Работает для маленьких баз, но дорого и упирается в контекстное окно.
- RAG: подмешивать только нужные фрагменты. Данные можно обновлять за минуты, источники видны. Это основной выбор для баз знаний, прайсов и регламентов.
- Дообучение: менять саму модель. Подходит для стиля и узких форматов, но плохо для фактов, которые часто меняются. Сравнение — в статье RAG или дообучение.
Как понять, что RAG работает хорошо
Хороший RAG проверяется цифрами на ваших вопросах, а не ощущением «вроде отвечает». Соберите 30–50 реальных вопросов клиентов и отметьте, на сколько из них бот ответил верно, на сколько честно сказал «не знаю» и на сколько выдумал. Именно третий показатель критичен: выдуманный ответ вреднее, чем отказ. Как оформить критерии приёмки, описано в статье ТЗ на ИИ-ассистента и Telegram-бота.
Частые вопросы
RAG — это какая-то одна программа?
Нет, это архитектура: поиск + генерация. Собирается из векторной базы, модели и вашего кода — готовых «кнопок RAG» не существует, есть конструкторы, в которых её собирают.
Нужна ли RAG, если документов немного?
Если их двадцать страниц и они текстом — да, RAG окупается: именно на маленьких базах он работает точнее всего.
Сколько стоит RAG для компании?
Пилот — от 100 000 ₽ за 2–4 недели. Подробности — в статье про стоимость RAG.
Нужны ли программисты, чтобы поддерживать RAG после запуска?
Для повседневной работы нет: обновление документов делается загрузкой нового файла. Программист нужен при смене источников данных, интеграций или модели. На практике сопровождение сводится к регулярной проверке отчёта «вопросы без ответа» и обновлению базы.
Можно ли использовать RAG без отправки данных в зарубежные сервисы?
Да. Векторную базу и модель можно разместить на вашем сервере или использовать российские модели. Выбор зависит от чувствительности данных и бюджета. Сравнение вариантов — в статье локальная или облачная модель.
Что делать дальше
Полезные страницы: RAG под ключ · Сколько стоит RAG · Бот на своей базе знаний.
Цены и сроки — в общем прайсе. Сложно выбрать — напишите в Telegram @darulev, отвечу лично.
