Коротко: В 90% бизнес-задач нужен RAG, а не дообучение. RAG учит модель вашим фактам на каждом вопросе: документы обновили — бот сразу знает новое. Fine-tuning учит стиль и форму на дорогом подготовке датасета, а факты в нём устаревают вместе с моделью. Дообучение оправдано для узкого формата ответов и отраслевого языка.
Сравнение по строкам, которые важны владельцу
| Критерий | RAG | Fine-tuning |
|---|---|---|
| Свежесть фактов | мгновенная: переиндексация документа | переобучение при каждом изменении |
| Цена запуска | от 100 000 ₽ пилот | датасет + эксперименты, кратно дороже |
| Ссылка на источник | да | нет |
| Когда выбирать | ответы по вашим документам | жёсткий формат, отраслевой жаргон |
Когда дообучение действительно нужно
Когда модель стабильно путает формат: ответы должны быть строго в форме на 12 полей, с правильной терминологией и без вступлений. Датасет из сотен примеров доучивает форму. Факты (цены, сроки, условия) всё равно живут в RAG: вшивать в модель то, что меняется каждый квартал, — ошибка проектирования.
Как это выглядит по деньгам
Пилот RAG — от 100 000 ₽. Дообучение начинается с подготовки датасета: сотни размеченных примеров, это недели работы специалистов до первой проверки качества. Разумный маршрут: сначала RAG, и только если формат ответов упирается — точечный fine-tuning поверх него.
Три вопроса, которые определяют выбор
- Что нужно модели: знать факты или говорить определённым образом? Факты (цены, регламенты, условия) это RAG. Манера и формат (структура ответа, терминология, тон бренда) это дообучение или аккуратный промпт.
- Как часто меняются данные? Если раз в месяц и чаще, дообучение не успевает, и ответы устаревают. RAG обновляется загрузкой нового документа.
- Нужны ли ссылки на источник? В рабочем боте они нужны почти всегда: ответ без источника нельзя проверить. RAG их даёт, дообученная модель нет.
Типичные заблуждения
- «Дообучим на наших документах, и модель всё запомнит». Модель не запоминает документы как базу данных. После дообучения она перенимает стиль и закономерности, а точные факты воспроизводит ненадёжно и может их искажать.
- «RAG это временное решение, настоящее дообучение». Нет, это разные инструменты. В зрелых системах используют оба: факты из базы, форма от настроенной модели.
- «Дообучение дешевле, потому что документы не надо искать». Подготовка датасета и проверка качества стоят значительно больше, чем настройка поиска по документам.
- «С RAG бот не ошибается». Ошибки возможны, если документов нет, они противоречат друг другу или поиск находит не то. RAG снижает риск, но не отменяет тестирование.
Рабочий маршрут для малого бизнеса
- Старт с RAG и хорошей инструкции. Это закрывает большинство задач: бот отвечает по вашим документам (что такое RAG).
- Замер на реальных вопросах. Проверка, где бот ошибается: в фактах или в формате.
- Если ошибки в фактах, улучшаются документы и поиск, а не модель.
- Если ошибки в формате, уточняются инструкции с примерами. Это часто решает проблему без обучения.
- Дообучение только после этого, и только если формат всё ещё не достигнут и есть достаточный набор качественных примеров.
Сколько стоит первый шаг, описано в статье сколько стоит RAG, а как подготовить документы — в материале про подготовку документов.
Частые вопросы
Можно скормить модели наши документы и дообучить?
Технически да, практически это самый дорогой способ получить устаревающие ответы без ссылок. Для фактов — RAG, точка.
Fine-tuning ускоряет ответы?
Чуть-чуть: короче промпты. Экономика несопоставима с ценой датасета.
Есть готовые решения дообучения?
Платформы упрощают процесс, но датасет никто не соберёт за вас. Главный ресурс — не GPU, а разметка.
Можно ли совместить RAG и дообучение?
Да, это нормальная практика для зрелых систем: дообученная модель задаёт формат и терминологию, RAG подмешивает актуальные факты. Но начинать лучше с RAG, а второй шаг делать только при доказанной необходимости.
Как понять, что мне нужно дообучение?
Если после хорошего промпта с примерами и подключённой базы бот всё ещё стабильно ошибается в форме ответа, например не укладывается в обязательный шаблон, и такие ошибки подтверждены на сотнях тестов. До этого момента дообучение чаще всего преждевременно.
Что делать дальше
Полезные страницы: RAG под ключ · Что такое RAG · Локальные LLM.
Цены и сроки — в общем прайсе. Сложно выбрать — напишите в Telegram @darulev, отвечу лично.
