Своя модель

Модели Phi: маленькие но обученные на отобранных данных

Phi — семейство компактных моделей Microsoft, обученных на отобранных и синтетических данных. Разбираем, откуда берутся высокие баллы и где эта ставка не срабатывает.

Вы поставили рядом двух кандидатов: модель на три с небольшим миллиарда параметров и семимиллиардную из другого семейства. Прогнали через свои задачи — и маленькая выиграла. Аккуратно решила задачу на несколько шагов рассуждения, точнее удержала заданный формат ответа, не поплыла в арифметике. Первая мысль — где-то ошибка в замере: разная квантизация, разный системный промпт, случайность одного прогона.

Ошибки может и не быть. Семейство Phi от Microsoft построено ровно вокруг этого эффекта: если обучать не на всём, что удалось выкачать из сети, а на отобранном и специально сгенерированном материале — часть параметров становится лишней. Модель меньшего размера начинает вести себя как модель следующего класса. На части задач.

Последняя оговорка — самая важная в этом тексте, и к ней мы вернёмся подробно. Дата написания — 25 августа 2026 года; конкретные номера поколений и точные размеры вариантов проверяйте на карточке модели, линейка обновляется чаще, чем статьи о ней.

#Идея, на которой держится семейство

Обычный рецепт обучения — взять максимально большой корпус текста из интернета. В нём полезное перемешано с мусором: форумные перепалки, дубликаты, автоматические переводы, спам, — и модель тратит ёмкость на то, чтобы выучить и это тоже.

Ставка Phi другая: собрать корпус, где почти каждый фрагмент несёт объяснение или разобранный пример — учебники, аккуратный код, задачи с решениями, — и дополнить его синтетикой, сгенерированной моделью посильнее. Механика переноса знаний от большой модели к маленькой описана отдельно в материале про то, что такое дистилляция модели и как маленькая модель учится у большой: Phi — не дистилляция в узком смысле, но идею «учитель формирует материал для ученика» использует ту же.

Результат предсказуем ровно настолько, насколько предсказуем сам метод: модель хороша там, где задача похожа по форме на её учебный материал, и заметно слабее там, где не похожа.

#Из чего состоит линейка

В семействе несколько размерных классов; названия поколений меняются, размерные классы держатся довольно стабильно. Смотрите в таблице не имена, а третью колонку — она определяет, на чём вариант вообще запустится.

Класс Порядок параметров Веса в Q4 Типичное место запуска
Мини около 3–4 млрд ~2 ГБ процессор ноутбука, встроенная графика
Средний около 7 млрд ~4 ГБ видеокарта 6–8 ГБ
Старший около 14 млрд ~8 ГБ видеокарта 12 ГБ и выше
Варианты с распознаванием изображений зависит от поколения требует проверки видеокарта, объём по карточке

Числа в колонке весов — арифметика (параметры, умноженные примерно на 0,55 байта), а не размер конкретного файла: он отличается на несколько процентов в обе стороны. К весам добавляется KV-кэш под контекст. Практический вывод из таблицы простой: мини-класс — единственный в семействе, который уверенно живёт без видеокарты, и именно он интересен владельцам слабых машин; подборка по объёму памяти собрана в таблице моделей для слабого железа.

#Что у этих моделей получается

Задачи с чистой формулировкой. Школьная и олимпиадная математика, логические цепочки, «пошагово объясни, почему», разбор короткого фрагмента кода. Здесь мини-класс Phi регулярно выглядит убедительнее универсальных моделей вдвое большего размера.

Следование формату. Просьба «ответь строго таблицей, без вступления» выполняется чаще, чем у многих моделей соседнего класса. Это прямое следствие обучающего материала: в нём аккуратно оформленных ответов непропорционально много.

Скорость и порог входа. Мини-класс запускается на процессоре ноутбука без дискретной видеокарты и отвечает с приемлемой задержкой на коротких запросах — сценарий разобран в материале о том, как запустить языковую модель на ноутбуке без видеокарты. Два гигабайта под веса означают, что модель можно держать загруженной постоянно.

#Где ставка не срабатывает

Грязный реальный текст. Рабочая переписка, расшифровка созвона, скопированный из PDF абзац с переносами — не учебник. На таком входе модель, натренированная на чистом материале, теряется быстрее универсальной: она хуже достраивает смысл по обрывкам.

Длинный контекст. Заявленное окно у компактных моделей нередко велико, а способность удерживать факты из середины документа — скромнее. Это болезнь всего класса, но у моделей, обученных на коротких структурированных фрагментах, она выражена сильнее.

Языки, кроме английского. Отобранный корпус собирался прежде всего по-английски. На русском компактные Phi обычно уступают мультиязычным моделям того же и даже меньшего размера: страдают падежи после числительных, стилистика уходит в кальку с английского, термины переводятся наугад. Проверять это придётся на своих текстах — публичные бенчмарки англоцентричны и на русский не переносятся.

Широта фактических знаний. Меньше параметров — меньше места под факты о мире: отбор данных помогает рассуждать, но не заменяет объём. На вопросах «кто, где, когда» компактная модель уверенно выдумывает.

Разрыв между тестом и работой. Высокие результаты на академических наборах у моделей, обученных на синтетике, стоит читать с поправкой: часть таких наборов по форме близка к обучающему материалу, а некоторые задачи и вовсе могли попасть в него. Почему это системная проблема любых таблиц с баллами — разобрано в статье о том, как читать бенчмарки LLM.

#Чем это оборачивается против моделей побольше

В таблице — не замеры, а профиль: где ставка на отбор данных окупается, а где выигрывает объём параметров. Первая колонка — критерий выбора, дальше три размерных класса.

Критерий Компактная Phi (3–4B) Универсальная 7–8B Модель 14B и выше
Веса в Q4 ~2 ГБ ~4 ГБ от 8 ГБ
Задача с чистой формулировкой сильно средне сильно
Неструктурированный реальный текст слабо средне сильно
Русский язык слабо средне средне-сильно
Широта фактов о мире слабо средне сильно

Вывод из таблицы: компактная Phi — не уменьшенная универсальная модель, а инструмент другой формы. Она забирает у среднего класса задачи с ясной постановкой и отдаёт ему грязный вход, язык и память о мире.

#Лицензия и что она разрешает

Часть релизов Phi выходила под разрешительной лицензией MIT, что для семейства от крупной корпорации редкость и делает их удобными для коммерческих сценариев. Но статус привязан к конкретному релизу, а не к семейству: отдельные варианты сопровождались собственными условиями использования, и это требует проверки на карточке той версии, которую вы скачиваете, а не по обзорам, включая этот.

Что проверять до того, как модель попадёт в рабочий контур: разрешено ли коммерческое использование, разрешено ли дообучение и распространение производных, есть ли требования к именованию результата.

#Кому это подойдёт

Берите, если у вас ноутбук без дискретной видеокарты или карта до 4 ГБ, а задачи — короткие: переформулировать, извлечь поля из текста, объяснить фрагмент кода, посчитать. Берите также, если вам нужна модель, постоянно висящая в памяти рядом с остальной работой.

Не берите как основную, если основной язык работы — русский, если вы разбираете длинные документы или если вход всегда сырой: расшифровки, письма, выгрузки. В этих сценариях универсальная модель на 7–8 миллиардов параметров окажется полезнее, несмотря на худшие цифры в публичных таблицах.

Разумный компромисс — держать две модели: компактную Phi для быстрых структурированных задач и универсальную для остального; профили ошибок у них разные. Как выстроить выбор от железа и своих задач, а не от рейтингов, разобрано в руководстве о том, какую модель выбрать под свою задачу.

#Частые вопросы

#Правда ли что Phi обгоняет модели большего размера?

На части задач — да, и это воспроизводимо: математика, логика в несколько шагов, следование заданному формату. На другой части — нет, и разрыв там тоже большой: широта фактических знаний, работа с неструктурированным текстом, языки кроме английского. Утверждение «обгоняет» без указания класса задач бессмысленно.

#Сколько памяти нужно для запуска Phi?

Для мини-класса на 3–4 миллиарда параметров в четырёхбитной квантизации веса займут около 2 ГБ, плюс KV-кэш под контекст. Такой вариант работает на процессоре и на встроенной графике. Старший класс на 14 миллиардов потребует примерно 8 ГБ под веса и практически требует дискретной видеокарты.

#Подходит ли Phi для русского языка?

Как основная модель для русского — обычно нет. Обучающий корпус собирался преимущественно на английском, и на русском эти модели уступают мультиязычным семействам сопоставимого размера в стилистике, падежах и терминологии. Для русскоязычных задач стоит сравнивать кандидатов на своих текстах.

#Что означает обучение на синтетических данных?

Это материал, сгенерированный другой, более сильной моделью: разобранные задачи, примеры с объяснениями, диалоги. Такой корпус чище интернетного и плотнее по полезному содержанию, поэтому модель учится рассуждать на меньшем числе параметров. Плата — смещение в сторону задач, похожих на учебные, и слабость на всём, что на них не похоже.

#Можно ли использовать Phi в коммерческом продукте?

Часть релизов выходила под лицензией MIT, которая это допускает, но проверять нужно условия конкретной версии на её карточке: внутри одного семейства лицензии различаются между релизами и со временем меняются. До попадания модели в продукт стоит получить ответ на три вопроса: коммерческое использование, дообучение, требования к именованию производных.

#Стоит ли брать Phi вместо модели на 7–8 миллиардов параметров?

Если видеопамяти хватает на 7–8B, компактная модель редко бывает единственным вариантом — скорее вторым, для быстрых задач. Если же вы упираетесь в 4 ГБ или работаете на процессоре, Phi мини-класса становится одним из немногих осмысленных выборов, и её профиль сильных сторон в этом диапазоне выглядит выигрышно.

#Вывод

Phi — это проверка гипотезы «данные важнее размера», доведённая до продукта. Гипотеза подтвердилась частично, и понимание границы важнее любого балла: отбор обучающего материала покупает рассуждение и дисциплину формата, но не покупает знания о мире, устойчивость к грязному входу и качество на неанглийских языках.

Если у вас слабая машина и короткие структурированные задачи на английском или в коде — компактная Phi будет одной из лучших вещей, которые туда влезают. Если у вас русскоязычная переписка, длинные документы и произвольный вход — берите универсальную модель большего размера и не ориентируйтесь на таблицы с баллами: они измеряют не ваш случай.

Хотите ИИ, который помнит вас?

Persona держит контекст между чатами и работает на вашем железе — если развернуть её у себя и подключить локальную модель.

Создать аккаунт