Коротко: разные задачи, а не конкуренты
RAG — это поиск по вашим документам перед ответом: модель не «знает» ваш прайс, она находит нужный кусок и отвечает по нему. Дообучение (fine-tuning) меняет саму модель, чтобы она усвоила стиль, формат и специфику языка. Для базы знаний компании в 95% случаев нужен RAG: он дешевле, обновляется за минуты и не врёт про вчерашние цены. Дообучение берут, когда нужен особый формат ответа или узкая терминология.
Как работает RAG
Схема простая: ваши документы разбиваются на фрагменты и индексируются. Когда приходит вопрос клиента, система находит несколько релевантных кусков и передаёт их модели вместе с вопросом. Модель формулирует ответ строго по найденному.
Что это даёт на практике:
- Актуальность. Поменяли прайс — заменили файл, ответы изменились сразу.
- Проверяемость. Видно, из какого документа взят ответ.
- Контроль выдумки. Нет релевантного фрагмента — срабатывает запасной сценарий, а не фантазия. Подробнее — разбор про галлюцинации.
- Цена. Не нужны дорогие вычисления на обучение.
Что даёт дообучение
Fine-tuning меняет поведение модели: она начинает отвечать в вашем стиле, выдерживать нужный формат, понимать узкие профессиональные термины без объяснений. Знания о конкретных цифрах он при этом добавляет плохо — модель может «запомнить» устаревшую цену и повторять её уверенно.
Когда дообучение оправдано:
- жёсткий формат ответа, который трудно описать инструкцией;
- отраслевой язык, где обычная модель путает термины;
- очень большой объём однотипных задач, где важна каждая доля стоимости запроса;
- работа с локальной моделью в закрытом контуре, где нужен максимум из небольшой модели — см. ИИ-агент в закрытом контуре.
Сравнение по параметрам
| Параметр | RAG | Дообучение |
|---|---|---|
| Что меняет | Данные для ответа | Поведение модели |
| Обновление информации | Минуты | Новый цикл обучения |
| Стоимость входа | Низкая | Заметно выше |
| Риск устаревших фактов | Низкий | Высокий |
| Прозрачность источника | Есть | Нет |
| Срок запуска | Дни-недели | Недели-месяцы |
Почти всегда — гибрид, но начинают с RAG
Рабочее правило: факты — через поиск по документам, манеру и формат — через инструкции. К дообучению переходят, когда инструкции перестали справляться, а не «на всякий случай».
В реальных проектах связка выглядит так: качественная база знаний плюс поиск по ней, поверх — подробная инструкция роли и границ. Этого хватает подавляющему большинству задач: продажи, поддержка, запись, консультации по услугам.
Как собирается сама база знаний, описано в материале обучить ИИ-бота базе знаний.