Рубрика
Своя модель
Все статьи блога Persona в категории «Своя модель»: 44 материалов о личном ИИ, памяти, приватности и локальных моделях.
Статей в рубрике: 44 · страница 1 из 2
Axolotl: дообучение по конфигурационному файлу
Обучение, описанное одним YAML-файлом, а не скриптом. Разбираем конфигурацию по строкам и показываем, зачем это нужно: повторить эксперимент через полгода и получить тот же результат.
Своя модельDPO и ORPO простыми словами: обучение на предпочтениях
Обучение на парах «этот ответ лучше того» подходит для персонализации лучше обычного дообучения. Но ему нужны отвергнутые ответы — а их обычно никто не сохраняет.
Своя модельДообучение на своём железе: что реально нужно
Считаем требования к видеопамяти для дообучения по слагаемым, а не по чужим таблицам. Где проходит порог, за которым домашнее обучение перестаёт иметь смысл, и что делать дальше.
Своя модельФорматы обучающих данных: Alpaca ShareGPT ChatML
Один и тот же диалог в трёх форматах — и правило, из-за нарушения которого модель после обучения начинает вести себя странно: формат датасета обязан совпадать с шаблоном чата базовой модели.
Своя модельГиперпараметры дообучения: скорость эпохи и ранг
Стартовые значения, с которых имеет смысл начинать, и главное — порядок, в котором крутить параметры, когда результат плохой. Первым меняется не тот, о котором вы подумали.
Своя модельКак оценить дообученную модель честно
Автор дообучения систематически переоценивает свою работу. Единственное лекарство — слепое сравнение с базовой моделью по заранее написанному протоколу. Форма оценки и список задач для контроля деградации.
Своя модельКогда дообучение не нужно: сначала прочитайте это
Большинству людей, которые собрались дообучать модель, нужен не fine-tune, а промпт, RAG или модель побольше. Пять признаков, по которым это видно заранее, и таблица «симптом — правильный инструмент».
Своя модельКонвертация дообученной модели в GGUF и запуск локально
Последний разрыв маршрута: от папки с весами после обучения до модели, которая отвечает в вашем ассистенте. Команды конвертации и квантизации, Modelfile и проверка результата.
Своя модельLoRA и QLoRA: в чём разница и что выбрать
QLoRA — это не «улучшенная LoRA», а размен качества и скорости на видеопамять. Разбираем, за счёт чего он работает, и с какого объёма VRAM платить этим разменом уже незачем.
Своя модельОчистка датасета: почему грязные данные хуже малых
Сотня чистых примеров даёт лучший результат, чем тысяча с противоречиями и дублями. Процедура очистки из шести шагов и список признаков, по которым пример стоит выбросить.
Своя модельМодель переобучилась: как это заметить и что делать
Переобучение видно без метрик: модель начинает дословно воспроизводить примеры из датасета и теряет способность к обычному разговору. Симптомы, быстрая проверка и таблица «что менять».
Своя модельPEFT: как устроены адаптеры под капотом
Адаптер — это две маленькие матрицы рядом с большой замороженной. Разбираем механику и одно следствие, которое обычно упускают: адаптеры хранятся и переключаются отдельно от базовой модели.
Своя модельРазметка хороших ответов: как оценки превращаются в данные
Отмечать стоит не правильные ответы, а те, что звучат как ваши. Критерий оценки, форма записи и что делать с плохими ответами — плюс честно о том, куда эти оценки попадают.
Своя модельСколько примеров нужно для дообучения
Для стиля хватает сотен примеров, для формата — десятков, для знаний не хватит и десятков тысяч. Разбираем пороги по целям и объясняем, почему единого числа не существует.
Своя модельАренда видеокарты для дообучения: сколько это стоит
Считаем стоимость не одного прогона, а всего цикла — с поправкой на неудачные запуски, скачивание базы и время на отладку. Формула, в которую вы подставите свой тариф.
Своя модельСлияние адаптера с моделью: когда это нужно
Слияние нужно ровно тогда, когда рантайм не понимает адаптеры. Взамен вы теряете возможность переключать поведение и получаете лишние гигабайты на диске. Команды и таблица «когда сливать».
Своя модельUnsloth: быстрое дообучение на одной видеокарте
Практический маршрут запуска Unsloth с готовым скриптом — и разбор того, где обычно ломается запуск: версии библиотек и совместимость с конкретной моделью.
Своя модельМодели DeepSeek: сильные рассуждения за небольшие деньги
Облачный DeepSeek и локальные модели с тем же именем — разные вещи. Разбираем, что такое дистилляции, чего они не наследуют и когда какой вариант оправдан.
Своя модельEmbed-модели для поиска по памяти: чем они отличаются
Embed-модели различаются двумя вещами, которые решают всё: качеством на русском и размерностью вектора. Считаем размер индекса арифметикой и разбираем цену смены модели.
Своя модельМодели Gemma: компактные и с оговорками в условиях
Gemma раздаётся открыто, но не по открытой лицензии: у неё собственные условия использования. Разбираем размеры, сильные и слабые стороны, а также что вы принимаете при загрузке.
Своя модельМодели GLM и Kimi: китайские линейки с длинным контекстом
GLM и Kimi почти не обсуждают по-русски, хотя это одни из самых заметных открытых линеек с длинным контекстом. Разбираем состав, лицензии и как проверить окно самому.
Своя модельHermes 3 и Hermes 4: чем отличаются поколения
Сравнение поколений по прикладным свойствам для агентов: соблюдение формата вызова инструментов и следование системному промпту. Спорные детали помечены как требующие проверки.
Своя модельКак запустить LLM локально: полное руководство от железа до первого ответа
От «что у меня за железо» до работающей модели: команды проверки, формула памяти, таблица требований по пяти классам моделей и критерий выбора между четырьмя инструментами.
Своя модельКакую модель выбрать под свою задачу и своё железо
Выбор модели решается в два шага: сначала железо отсекает почти всё, потом ваши собственные задачи выбирают из остатка. Разбираем оба шага без единого рейтинга.
На этой странице совпадений нет
Живой фильтр ищет только по загруженным карточкам. Нажмите «Найти», чтобы искать по всему блогу.