Вы посчитали бюджет памяти — допустим, получилось около 6 ГБ на веса и KV-кэш — и пошли искать, что в него влезет. Дальше начинается неприятное. У одного семейства ближайший размер вдвое больше нужного, у другого есть только компактная версия, которая для ваших задач откровенно слаба, у третьего подходящий вариант существует, но выложен в формате, который ваш рантайм не читает. Вилка по памяти есть, а кандидатов в ней нет.
Именно на этом шаге Qwen чаще всего и попадает в список. Не потому, что он где-то занимает первое место, а потому, что у семейства есть вариант почти под каждую строку дерева выбора по видеопамяти: от моделей меньше гигабайта в квантизации до тех, которым нужна серверная карта. Когда вы выбираете не «самое сильное вообще», а «самое сильное из того, что влезает», плотная сетка размеров стоит дороже, чем пара баллов в чужой таблице.
Текст написан 25 августа 2026 года. Номера поколений в нём почти не встречаются намеренно: они меняются несколько раз в год, а свойства семейства держатся дольше. Проверяйте конкретные версии на странице модели в реестре, из которого будете качать.
#Размерная сетка: что вообще есть в семействе
В таблице ниже смотрите на связку «класс размера → память под веса → что этот класс реально вытягивает». Числа памяти — арифметика, а не замеры: число параметров, умноженное примерно на 0,55 байта для четырёхбитной квантизации. KV-кэш под контекст сюда не входит и добавляет от сотен мегабайт до нескольких гигабайт сверху. Конкретные размеры внутри семейства от поколения к поколению сдвигаются на пару миллиардов в обе стороны — это нормально и не ломает расчёт.
| Класс размера | Веса в Q4 | VRAM с запасом | Что вытягивает |
|---|---|---|---|
| Меньше 1B | ~0,3–0,6 ГБ | процессор или 2 ГБ | классификация, извлечение полей, черновая разметка |
| 1,5–3B | ~0,9–1,7 ГБ | 4 ГБ | короткие ответы, переформулирование, простые команды |
| 7–8B | ~4 ГБ | 6–8 ГБ | бытовой собеседник, письма, разбор текста |
| 14B | ~8 ГБ | 12 ГБ | связные длинные ответы, код средней сложности |
| 30B и выше | ~18 ГБ и больше | 24 ГБ и больше | рассуждения, длинные документы, сложный код |
Практический вывод из таблицы один: у вас почти наверняка есть ровно один подходящий класс, и он определяется не вкусом, а объёмом карты. Брать соседний класс сверху «с выгрузкой части слоёв в оперативную память» обычно бессмысленно — общая логика этого решения разобрана в материале о том, как выбрать модель под задачу и железо.
Отдельная ветка — разреженные модели, где общее число параметров велико, а на каждый токен активируется только его часть. Память они требуют по полному числу параметров, а скорость дают ближе к активной доле. Для домашней карты это редко спасение: 30 ГБ весов остаются 30 ГБ весов независимо от того, сколько экспертов молчит.
Кроме разговорных версий в семействе регулярно выходят специализированные ветки: под код, под работу с изображениями и отдельные embed-модели для поиска. Последние не умеют разговаривать вовсе, и это не дефект, а назначение. Что даёт мультимодальная ветка на практике и какой ценой — в разборе моделей, которые видят изображения, в локальном запуске.
#Что у семейства получается
Мультиязычность. Это главный практический аргумент. Модели семейства обучены на заметной доле неанглийских данных, и на русском они обычно держат падежи и согласование лучше, чем англоцентричные ровесники того же размера. Слово «обычно» здесь не для страховки: публичные бенчмарки почти целиком англоязычные, на русский их результаты не переносятся, и проверять приходится руками. Процедура проверки — в гайде о том, как выбрать модель для русского языка.
Плотность размерной сетки. Между 3B и 7B у большинства семейств пусто, здесь — нет. Это значит, что при апгрейде карты с 6 на 12 ГБ вы не меняете манеру ответов и системный промпт, а переходите на соседний размер той же линейки. Экономия времени на перенастройке реальная.
Структурированный вывод и инструменты. Модели семейства сравнительно дисциплинированно отдают JSON и вызовы функций, начиная примерно с класса 7B. Ниже 3B на строгий формат рассчитывать не стоит ни у кого — там любая модель начинает добавлять пояснения вокруг ответа.
Доступность в готовых сборках. Квантованные файлы под популярные рантаймы появляются быстро и почти для всех размеров. Это скучное преимущество, но оно экономит вечер: не приходится конвертировать веса самому.
#Где семейство проседает
Раздел не короче предыдущего намеренно — иначе получается реклама, а не обзор.
Многословие. Ответы склонны к спискам, подзаголовкам и вежливым обрамлениям там, где просили одну строку. Лечится системным промптом, но лечится не до конца, и на коротких задачах это раздражает.
Русский бывает калькированным. Грамматика держится, а стилистика уезжает в перевод с английского: канцелярские обороты, кальки терминов, неестественный порядок слов. Для переписки это заметно, для извлечения фактов — нет.
Младшие размеры уверенно выдумывают. Модели до 3B выдают несуществующие факты тем же ровным тоном, что и верные. Это свойство размерного класса, а не семейства, но раз линейка выманивает вниз по размерам, предупредить нужно именно здесь.
Быстрая смена поколений ломает воспроизводимость. Тег в реестре моделей может через несколько месяцев указывать на другую версию с другой манерой ответов. Если результат вам важно повторить, фиксируйте не имя, а конкретный файл весов с его хешем.
Неоднородность внутри линейки. Разные размеры и разные ветки одного поколения выходят на разных условиях. Ниже об этом отдельно.
#Условия распространения
Большая часть моделей семейства выкладывается под разрешительной лицензией класса Apache 2.0 — она допускает коммерческое использование, дообучение и распространение производных при сохранении уведомлений об авторстве. Но это верно не для всех размеров и не для всех поколений: у отдельных крупных версий исторически появлялись собственные условия использования производителя с дополнительными ограничениями. Конкретная принадлежность каждой версии — требует проверки на странице этой версии, а не по обзорам, включая этот.
Практическое правило: до того как результат попадёт в продукт, за который платят, получите ответ на три вопроса — разрешено ли коммерческое использование, разрешено ли дообучение, обязаны ли вы что-то указывать в производной модели или в продукте. Разница между «открытыми весами» и свободной лицензией разобрана в статье про лицензии открытых моделей и что они разрешают.
#Кому это подойдёт
Если вы работаете на русском и у вас 6–12 ГБ видеопамяти — семейство стоит взять первым кандидатом на проверку. Не как готовый ответ, а как точку отсчёта, с которой сравниваете остальных. Сопоставление кандидатов в самом массовом классе — в обзоре моделей на 7–8 миллиардов параметров.
Если у вас нестандартный объём памяти — 4 ГБ, 10 ГБ, 20 ГБ — плотная сетка размеров даёт шанс попасть в бюджет без выгрузки слоёв. У большинства семейств такого выбора нет.
Если вам нужен строгий формат ответа — берите класс от 7B и выше и проверяйте на своих схемах JSON, а не на примерах из документации.
Если результат уходит в коммерческий продукт — сначала лицензия конкретной версии, потом всё остальное. Здесь линейка неоднородна, и «в прошлый раз была Apache» не аргумент.
Если вам нужны сильные рассуждения на сложных задачах — помните, что локальная модель размерного класса до 14B объективно слабее топовых облачных в длинных логических цепочках. Семейство этого не меняет.
#Частые вопросы
#Какую модель Qwen выбрать для 8 ГБ видеопамяти?
Класс 7–8B в четырёхбитной квантизации: веса займут около 4 ГБ, остальное уйдёт под KV-кэш и систему. При 8 ГБ можно взять либо более щадящую квантизацию Q5 с коротким контекстом, либо Q4 с длинным — одновременно и то и другое не поместится.
#Хорошо ли Qwen работает на русском языке?
На практике модели семейства держат русскую грамматику лучше многих англоцентричных ровесников того же размера, но стилистика часто отдаёт переводом. Публичные бенчмарки этого не покажут: они англоязычные, и их результаты на русский не переносятся. Проверяйте на своих текстах с числительными, падежами и аббревиатурами.
#Чем отличаются обычные и рассуждающие версии Qwen?
Рассуждающая версия тратит дополнительные токены на внутреннюю цепочку рассуждений перед ответом. На логике и математике это окупается, на переписке и переформулировании — нет: вы платите временем и памятью за то, что не нужно. Для бытовых задач берите обычную версию.
#Можно ли использовать Qwen в коммерческом проекте?
Для большинства размеров лицензия семейства это допускает, но принадлежность конкретной версии требует проверки на её странице: внутри линейки условия неоднородны и меняются между поколениями. Проверять нужно ровно тот файл весов, который вы скачали.
#Сколько версий Qwen нужно держать локально?
Обычно две: разговорную под ваш класс памяти и отдельную embed-модель для поиска по своим записям. Embed-модель занимает мало, не умеет отвечать и решает совершенно другую задачу — заменить её чат-моделью нельзя.
#Qwen лучше других семейств такого же размера?
Такой вопрос не имеет ответа вне вашего набора задач. В классе 7–8B разница между семействами обычно меньше, чем разница от правильно настроенного системного промпта. Единственный способ получить ответ — прогнать двух-трёх кандидатов через десяток своих реальных задач вслепую.
#Вывод
Qwen выбирают не за место в рейтинге, а за то, что в семействе почти всегда находится вариант ровно под ваш объём памяти, и он неплохо говорит по-русски. Это два конкретных практических свойства, а не общая похвала.
Если у вас 6–12 ГБ и русскоязычные задачи — начинайте отсюда и сравнивайте остальных с этой точкой. Если у вас 24 ГБ и код — смотрите специализированную ветку под код, а не разговорную версию того же размера. Если результат уходит в коммерческий контур — сначала откройте лицензию конкретной версии, и только потом считайте память.