Память

RAG или дообучение: один вопрос, который решает выбор

Выбор между RAG и дообучением сводится к одному вопросу: у вас меняются знания или манера? Разбираем семь критериев, дерево решений и цену ошибки в обе стороны.

«Хочу, чтобы нейросеть знала мои документы» — за этой фразой почти всегда стоит запрос на дообучение, а нужен обычно поиск. Ошибка стоит дорого: дообучение — это часы вычислений, подготовленный датасет и результат, который нельзя быстро откатить. Поиск — это индекс, который перестраивается за минуты.

Facts о сторонних инструментах и требованиях к железу в этом тексте проверялись 26.08.2026; проверьте актуальность на момент чтения.

#Один вопрос, с которого начинается выбор

Спросите себя: что именно должно измениться — то, что модель знает, или то, как она себя ведёт?

  • Меняется знание (документы, факты, переписка, цены, регламенты, ваша личная история) — это RAG. Знание живёт вне модели, обновляется записью в базу и мгновенно доступно.
  • Меняется манера (формат вывода, тон, жаргон предметной области, устойчивое следование сложной инструкции, разметка ответа) — это дообучение. Манера живёт в весах и одним поиском не чинится.

Большая часть запросов «научите модель моим данным» относится к первой категории, потому что данные у людей меняются постоянно, а стиль ответа их устраивает. Именно поэтому вопрос стоит задавать до того, как начинать собирать датасет.

#Что такое дообучение и что оно делает хорошо

Дообучение (fine-tune) — это дополнительное обучение готовой модели на своих примерах, после которого её веса меняются. Чаще всего используют LoRA-адаптеры: обучаются не все параметры, а небольшой довесок, который потом подключается к базовой модели. Подробно про процесс и требования — в гайде о том, как сделать свою модель через дообучение.

Что дообучение делает лучше любого поиска:

  • Форма ответа без напоминаний. Модель начинает выдавать нужный формат сама, без инструкции в каждом запросе. Это экономит токены на каждом обращении.
  • Жаргон и узкая терминология. Если в вашей области слова значат не то, что в общем языке, дообучение выравнивает это на уровне модели.
  • Стабильность поведения. Промпт можно случайно испортить одной правкой; веса так не ломаются.
  • Короткие запросы. Не нужно тащить в контекст длинные инструкции и примеры — они уже внутри.

Это не мелочи: там, где ассистент обрабатывает тысячи однотипных запросов, экономия контекста и стабильность формата окупают обучение.

#Сравнение по семи критериям

Смотреть в таблице стоит на две строки — «скорость обновления» и «откат». Именно они чаще всего решают спор на практике, а не качество ответов.

Критерий RAG Дообучение
Обновление знания минуты, запись в базу новый прогон обучения
Откат ошибки удалить запись перевыпустить адаптер
Требуемые данные сами документы размеченные примеры
Железо как для обычного ответа GPU или долгий CPU-прогон
Ссылка на источник есть по построению отсутствует
Влияние на манеру почти нет основное назначение
Цена ошибки низкая, локальная высокая, глобальная

Строка про источник важнее, чем кажется. RAG может показать, откуда взят факт, потому что фрагмент физически лежит в промпте — устройство этого конвейера разобрано в статье о том, что такое RAG простыми словами. Дообученная модель показать источник не может: знание размазано по весам, и на вопрос «откуда ты это взял» честного ответа не существует. Для персональной памяти это решающий довод.

#Дерево решений

  1. Факты меняются чаще, чем раз в квартал? Да → RAG. Нет → шаг 2.
  2. Нужно уметь показать источник ответа? Да → RAG. Нет → шаг 3.
  3. Проблема в том, что модель отвечает не тем стилем или не в том формате? Да → шаг 4. Нет → RAG (и, вероятно, проблема в поиске, а не в модели).
  4. Пробовали переписать системный промпт и дать 3–5 примеров прямо в нём? Нет → сделайте это сначала. Да, не помогло → шаг 5.
  5. Есть ли у вас хотя бы несколько сотен согласованных примеров «вход — правильный выход»? Нет → дообучать нечем, соберите данные. Да → дообучение оправдано.

Шаг 4 отсекает большинство случаев, и это не отговорка: примеры в промпте работают на удивление далеко. Сколько примеров нужно для реального обучения и почему меньшие числа не работают — в разборе сколько примеров нужно для дообучения.

#Где дообучение объективно лучше

Есть класс задач, где RAG проигрывает вчистую, и делать вид, что это не так, нечестно.

Жёсткий формат на большом потоке. Если ассистент обязан выдавать структуру, которую нельзя нарушить, и делает это тысячи раз в день, инструкции в промпте — это налог на каждый запрос плюс шанс сбоя. Дообученная модель держит формат дешевле.

Узкий язык. Медицинские сокращения, юридические формулы, внутренние коды компании — там, где общая модель систематически ошибается в терминах, поиск не помогает: он подложит правильный документ, а модель всё равно перескажет его неверными словами.

Экономия контекста при слабом железе. На небольшой локальной модели длинный промпт — это и задержка, и деградация качества. Перенос части поведения в веса освобождает окно под собственно данные.

Работа без хранилища. Если по условиям задачи внешней базы быть не должно вовсе, RAG отпадает по определению.

#Где RAG объективно лучше

Симметрично: RAG выигрывает всё, что связано с изменчивостью и проверяемостью. Новый факт становится доступен сразу после записи. Неверный факт удаляется точечно и перестаёт влиять на ответы. Ответ можно сопроводить цитатой и датой. И главное для личного ассистента: память о вас меняется постоянно — вы переезжаете, меняете работу, бросаете проекты. Модель, в веса которой зашита ваша прошлогодняя жизнь, — это не память, а окаменелость. Как устроены слои, которые с этим справляются, разобрано в статье о том, как работает память у ИИ.

Отдельный аргумент — стоимость ошибки. В RAG ошибка живёт в одной строке базы. В дообученной модели ошибка живёт в весах, и вы узнаете о ней через месяц, когда модель уверенно повторит её в новом контексте.

#Комбинация: когда нужно и то и другое

Подходы не исключают друг друга и на практике часто идут парой: дообучение задаёт манеру, RAG приносит факты. Так строятся отраслевые ассистенты — модель обучена говорить на языке предметной области, а конкретные документы подкладываются поиском.

Порядок при этом важен: сначала RAG, потом дообучение. Сначала вы выясняете, что проблема действительно в поведении, а не в том, что нужный документ не находится. Обратный порядок обходится дорого — вы обучаете модель компенсировать плохой поиск, и она делает это выдумыванием. Типовые ситуации, когда обучение точно лишнее, собраны в материале о том, когда дообучение не нужно.

#Частые вопросы

#Можно ли дообучением «залить» в модель свои документы?

Технически данные попадут в веса, но результат обычно разочаровывает: модель начинает уверенно смешивать детали разных документов и не может показать источник. Для фактов, которые нужно воспроизводить точно, поиск надёжнее по устройству.

#Сколько стоит дообучение по сравнению с RAG?

RAG почти не добавляет стоимости сверх обычного ответа — только индекс и немного лишних токенов в промпте. Дообучение требует разового прогона на GPU или долгого прогона на CPU и повторяется при каждом существенном обновлении данных. Конкретные цифры зависят от размера модели и железа — их имеет смысл замерять на своей конфигурации, а не брать из чужих отчётов.

#Что выбрать, если данных мало — пара сотен заметок?

RAG. Для дообучения такого объёма недостаточно, а поиску маленькая база даже удобнее: меньше шума, выше точность попадания.

#Устаревает ли дообученная модель?

Да, ровно в темпе устаревания данных, на которых её учили. Никакого механизма «забыть выученное» у неё нет: неверный факт из датасета остаётся в весах до следующего обучения.

#Помогает ли дообучение против галлюцинаций?

Скорее наоборот. Обучение на своих примерах делает модель увереннее в своей области, включая те случаи, где она ошибается. Проверяемость даёт не обучение, а наличие источника рядом с ответом.

#Вывод

Если у вас меняются факты — берите RAG, и не начинайте с обучения: оно решает другую задачу и стоит на порядок дороже в обслуживании. Если у вас не меняются факты, но не устраивает манера, и вы уже честно попробовали системный промпт с примерами — тогда дообучение оправдано. Если не устраивает и то и другое, стройте в порядке «сначала поиск, потом веса»: обратный порядок маскирует проблемы поиска и делает их невидимыми.

Хотите ИИ, который помнит вас?

Persona держит контекст между чатами и работает на вашем железе — если развернуть её у себя и подключить локальную модель.

Создать аккаунт