«Вторая копия» — это локальная модель, дообученная на ваших данных и под ваш стиль. Не замена облачному интеллекту, а кое-что другое: ассистент, который звучит как нужно вам и работает офлайн, на вашем железе. Разберём весь путь честно — включая то, что у маленькой модели получится, а что нет.
#Сначала — трезвые ожидания
Дообучение не делает модель умнее. Интеллект — свойство базовой модели и её претрейна; QLoRA на нескольких тысячах примеров его не добавит. Что дообучение реально даёт:
- стиль и тон — модель отвечает в нужной манере;
- самосознание — знает, кто она и чья (это и есть «копия»);
- поведение — например, прямота вместо подхалимажа.
Если нужна именно способность рассуждать — берите базу, которая уже умеет это, и дообучайте её аккуратно, сохраняя мыслительные следы. Иначе обучение на коротких ответах без рассуждений затрёт мышление — это известный эффект. Что вообще даёт режим рассуждений и когда он не окупается, разобрано в обзоре рассуждающих моделей.
#Что понадобится
- Датасет из ваших пар «вопрос → ответ» — как он собирается, разобрано в статье как собрать датасет из своих оценок.
- База с открытыми весами, лицензия которой разрешает дообучение и использование результата. Это отдельная проверка, а не формальность: «скачать веса» и «иметь право на результат» — разные вещи, и разбор по трём практическим вопросам есть в статье про лицензии открытых моделей.
- Видеокарта для обучения или бесплатный Colab. Для запуска результата хватит куда более скромного железа.
#Шаг 1. Собрать датасет
Датасет — это пары «вопрос → ответ» в формате чата. Источники:
- синтетика — рукописные эталоны вашего стиля (тон, характер);
- реальная история — пары из ваших прошлых диалогов (делают копию персональной);
- идентичность — несколько примеров «как тебя зовут, кто твой автор», чтобы модель знала, чья она.
Важно: если хотите рассуждения, держите в обучающих ответах настоящие цепочки мыслей (блок <think>…</think> у моделей соответствующего семейства) и подмешивайте открытые датасеты с рассуждениями — иначе мышление деградирует.
#Шаг 2. Выбрать базу под железо
Реалистично для слабой видеокарты (4 ГБ) — модели на 0,5–1,5 миллиарда параметров в 4-битном QLoRA. Это клон стиля, не интеллекта. Хотите умнее и при этом с рассуждениями — модель класса 4B с режимом мышления: на бесплатном Colab T4 (16 ГБ) она тренируется QLoRA с запасом, а готовый GGUF в Q4 (около 2,5 ГБ) запускается даже на 4 ГБ через Ollama (с квантованным кэшем контекста или частичной выгрузкой слоёв).
Если не уверены, что вообще влезет в вашу карту, посчитайте до скачивания: формула из двух слагаемых есть в статье сколько нужно VRAM для локальной LLM. Что означают суффиксы Q4, Q5 и Q8 и где проходит точка перелома по качеству — в разборе квантизации.
#Шаг 3. Обучение (QLoRA)
QLoRA — это базовая модель в 4 битах плюс обучаемые лёгкие адаптеры LoRA. Это в разы экономит память. Ключевые моменты, на которых спотыкаются:
- Точность под железо. На картах без аппаратной поддержки bf16 масштабирование fp16 может падать; на Turing и новее надёжнее bf16-режим. Выбирайте по проверке поддержки в вашем окружении.
- Лёгкий LoRA, чтобы не сломать модель. Низкий ранг (8–16), 1–2 эпохи, аккуратная скорость обучения. Тяжёлое дообучение на узких данных стирает общие способности.
- Не маскируйте рассуждения. Для моделей с режимом мышления блок
<think>— часть ответа и должен входить в обучение.
Тяжёлую тренировку логично делать один раз на бесплатном Colab, а запускать результат — локально: инференс лёгкий, домашняя видеокарта справится.
#Шаг 4. Запуск через Ollama
После обучения сливаете адаптер в базу, конвертируете в GGUF (квант Q4_K_M комфортно влезает в 4 ГБ) и заводите модель в Ollama одним Modelfile с системным промптом характера. Дальше — выбираете её как провайдера в настройках, и ответы идут вашим тоном, с вашего железа. Как подключить её к ассистенту с памятью — в гайде по подключению Ollama к Persona.
#Проверка результата
Дообучение легко «получилось» на глаз и провалилось по существу, поэтому проверять надо отдельно и до того, как вы начнёте этим пользоваться:
- Стиль. Задайте пять вопросов, ответы на которые вы знаете наизусть. Тон изменился в нужную сторону — цель достигнута.
- Не сломалось общее. Задайте пять вопросов из области, которой в датасете не было вовсе. Если модель поглупела заметнее, чем изменился стиль, — дообучение было слишком тяжёлым, снижайте ранг и число эпох.
- Рассуждения на месте. Для модели с режимом мышления проверьте, что блок рассуждений не исчез. Исчез — вы его затёрли обучением.
Сравнивать «до» и «после» надо на одном и том же наборе вопросов и вслепую. Методика личной проверки моделей, которая работает и здесь, — в статье свой набор тестов для модели.
#Что может пойти не так
- Модель повторяет одну фразу. Переобучение на маленьком однообразном датасете. Снизьте число эпох, добавьте разнообразия.
- Стиль не изменился. Слишком низкий ранг адаптера или слишком мало примеров именно вашего тона. Добавьте эталонов, а не эпох.
- Общие способности просели. Классический признак тяжёлого дообучения на узких данных. Откатитесь к более лёгкой конфигурации — восстановить затёртое дообучением нельзя, только переобучить с базы.
- Рассуждения пропали. Вы обучали на ответах без цепочек мыслей. Верните их в датасет и обучайте заново.
- Не влезает в память при запуске. Возьмите более агрессивный квант или уменьшите контекст: кэш контекста растёт отдельно от веса модели.
#Частые вопросы
#Сколько примеров нужно для заметного результата?
Для сдвига стиля компактной модели ориентир — сотни-тысячи качественных пар, а не десятки тысяч сырых. Согласованность важнее объёма: десять тысяч противоречивых примеров научат модель противоречить самой себе. Начните с первой чистой партии и наращивайте итеративно.
#Можно ли дообучить модель на своих данных без утечки этих данных?
Если обучаете на своей машине — да, данные никуда не уходят. При обучении в бесплатном облачном блокноте датасет попадает на чужую инфраструктуру, и это надо учитывать: для чувствительных данных такой путь не подходит, каким бы удобным ни был бесплатный ускоритель.
#Станет ли моя копия умнее базовой модели?
Нет. Дообучение меняет стиль, поведение и самосознание, но не добавляет интеллекта: рассуждать модель будет ровно так, как умеет её база. Если вам нужен более сильный интеллект, выбирайте другую базу, а не больше эпох.
#Что делать, если результат хуже, чем исходная модель?
Это типичный итог слишком тяжёлого дообучения: высокий ранг, много эпох, узкий датасет. Вернитесь к базе и обучите заново с низким рангом и одной-двумя эпохами. Чинить испорченный адаптер дообучением поверх — плохая идея.
#Можно ли использовать результат в коммерческих целях?
Зависит от лицензии базовой модели, а не от факта дообучения. Часть популярных линеек накладывает ограничения на использование и на производные модели, вплоть до требований к именованию. Проверьте лицензию до обучения — переобучить на другой базе дешевле, чем разбираться потом.
#Нужна ли для этого мощная видеокарта?
Для запуска — нет: квантованная модель на пару гигабайт стартует на скромном железе. Для обучения нужна карта побольше или бесплатный облачный ускоритель, и это разовая операция. Именно поэтому разумно тренировать в облаке, а пользоваться локально.
#Вывод
«Вторая копия» — это не «свой ChatGPT умнее всех», а персональный, приватный, офлайновый ассистент в вашем стиле. Если вам нужен именно тон, характер и независимость от чужого сервера — путь рабочий, и начать стоит с чистого датасета на несколько сотен пар. Если вам нужен более сильный интеллект — дообучение вам его не даст, держите рядом мощную модель и переключайтесь под задачу. В Persona под этот путь есть сборщик датасета из вашей истории; обучение вы прогоняете сами, на Colab или своей карте.