Тег
#дообучение
Статьи блога Persona с тегом «дообучение» — 18 материалов.
Статей с тегом: 18
Axolotl: дообучение по конфигурационному файлу
Обучение, описанное одним YAML-файлом, а не скриптом. Разбираем конфигурацию по строкам и показываем, зачем это нужно: повторить эксперимент через полгода и получить тот же результат.
ТехнологииЧто такое few-shot и zero-shot
Примеры в запросе не обучают модель. Она пользуется ими ровно до конца ответа, а потом забывает — и это принципиально отличает приём от дообучения.
ОсновыЦифровой двойник человека: что реально работает а что фантастика
Три уровня «двойника» — профиль, стилевая копия, автономный агент. Технически достижим первый и половина второго; третий остаётся обещанием, и вот на чём именно он ломается.
Своя модельDPO и ORPO простыми словами: обучение на предпочтениях
Обучение на парах «этот ответ лучше того» подходит для персонализации лучше обычного дообучения. Но ему нужны отвергнутые ответы — а их обычно никто не сохраняет.
Своя модельДообучение на своём железе: что реально нужно
Считаем требования к видеопамяти для дообучения по слагаемым, а не по чужим таблицам. Где проходит порог, за которым домашнее обучение перестаёт иметь смысл, и что делать дальше.
ОсновыИИ который помнит вас: что стоит за этим обещанием
Четыре разных механизма продавцы одинаково называют «памятью». Разбираем, чем они отличаются, и учимся по интерфейсу определять, какой из них перед вами.
Своя модельКак оценить дообученную модель честно
Автор дообучения систематически переоценивает свою работу. Единственное лекарство — слепое сравнение с базовой моделью по заранее написанному протоколу. Форма оценки и список задач для контроля деградации.
Своя модельКогда дообучение не нужно: сначала прочитайте это
Большинству людей, которые собрались дообучать модель, нужен не fine-tune, а промпт, RAG или модель побольше. Пять признаков, по которым это видно заранее, и таблица «симптом — правильный инструмент».
Своя модельLoRA и QLoRA: в чём разница и что выбрать
QLoRA — это не «улучшенная LoRA», а размен качества и скорости на видеопамять. Разбираем, за счёт чего он работает, и с какого объёма VRAM платить этим разменом уже незачем.
Своя модельМодель переобучилась: как это заметить и что делать
Переобучение видно без метрик: модель начинает дословно воспроизводить примеры из датасета и теряет способность к обычному разговору. Симптомы, быстрая проверка и таблица «что менять».
Своя модельPEFT: как устроены адаптеры под капотом
Адаптер — это две маленькие матрицы рядом с большой замороженной. Разбираем механику и одно следствие, которое обычно упускают: адаптеры хранятся и переключаются отдельно от базовой модели.
ПамятьRAG или дообучение: один вопрос, который решает выбор
Выбор между RAG и дообучением сводится к одному вопросу: у вас меняются знания или манера? Разбираем семь критериев, дерево решений и цену ошибки в обе стороны.
Своя модельСколько примеров нужно для дообучения
Для стиля хватает сотен примеров, для формата — десятков, для знаний не хватит и десятков тысяч. Разбираем пороги по целям и объясняем, почему единого числа не существует.
Своя модельUnsloth: быстрое дообучение на одной видеокарте
Практический маршрут запуска Unsloth с готовым скриптом — и разбор того, где обычно ломается запуск: версии библиотек и совместимость с конкретной моделью.
ТехнологииЛицензии открытых моделей: что вам на самом деле разрешено
Скачать веса и иметь право на результат — разные вещи. Разбираем лицензии моделей по трём практическим вопросам: коммерция, дообучение, обязательства перед автором.
Своя модельМодели Nous Hermes: что это за семейство весов
Nous Hermes — это дообучения поверх чужих базовых моделей, а не самостоятельные модели. Разбираем, что отсюда следует для лицензии, для железа и для выбора.
Своя модельОткрытые русскоязычные модели: T-lite Вихрь и другие
Дообученные под русский открытые веса — это надстройки над чужими базовыми моделями. Разбираем, что даёт дообучение, чего оно не даёт и откуда берётся лицензия.
Своя модельКак собрать датасет для дообучения ИИ из своих оценок
Качественный датасет важнее объёма. Разбираем, как лайки, дизлайки и выделенные фрагменты превращаются в обучающие пары для своей модели — и где этот подход даёт сбой.
На этой странице совпадений нет
Живой фильтр ищет только по загруженным карточкам. Нажмите «Найти», чтобы искать по всему блогу.