Какую видеокарту взять под локальные LLM

Обзоры видеокарт написаны под игры, и это ломает выбор под локальные модели полностью. В играх решают частота кадров и мощность вычислительных блоков, а объём памяти сверх 8–12 гигабайт почти не влияет. Для языковой модели всё наоборот: объём определяет, запустится ли она вообще, а вычислительная мощность отвечает лишь за одну из двух фаз работы.

Поэтому карта, разгромно проигрывающая в игровом обзоре, может оказаться правильной покупкой — и наоборот.

Характеристики в таблице ниже — официальные спецификации производителей, сверялись 25.08.2026. Цены сознательно не приводятся: они меняются быстрее, чем живёт статья, и различаются между регионами. Вместо чисел дана методика, по которой вы подставите актуальные цены сами.

#Единственный критерий, который работает

Он звучит так: сколько рублей вы платите за гигабайт видеопамяти, при условии что скорость этой памяти не ниже приемлемой.

Условие во второй половине фразы обязательно, иначе критерий вырождается: карта с 24 гигабайтами медленной памяти даст лучшую цену за гигабайт и худший опыт. Порог приемлемости считается так — разделите пропускную способность карты на вес вашей целевой модели и умножьте на 0,6. Если получилось меньше 10 токенов в секунду, скорость неприемлема, сколько бы памяти ни было.

Формула расчёта цены за гигабайт:

цена карты / объём памяти в ГБ = рублей за гигабайт

Считать нужно по трём кандидатам минимум, включая карты прошлого поколения. Разница между лучшим и худшим вариантом в этом показателе обычно двух-трёхкратная, и она почти никогда не совпадает с порядком карт в игровом рейтинге.

#Что флагманские карты делают хорошо

Раздел идёт раньше критики, потому что преимущества у них настоящие.

Они закрывают классы моделей, недоступные иначе. 32 гигабайта — это модель класса 32B в честном Q4_K_M с длинным контекстом, полностью в памяти. Ни одна связка из бюджетных карт этого не даёт без компромиссов.

У них радикально выше пропускная способность памяти. Разница между 360 и 1000 ГБ/с — это разница между 10 и 30 токенами в секунду на одной и той же модели. Не проценты, а разы.

Они быстро обрабатывают длинный промпт. Вторая фаза работы модели упирается в вычисления, и здесь флагманы выигрывают безоговорочно. Если ваш сценарий — заливать в модель документы, это ощущается сильнее, чем скорость генерации.

Одна карта проще двух. Никаких вопросов с разделением модели, питанием, охлаждением и совместимостью.

У них лучше поддержка. Свежие карты первыми получают оптимизации в движках; старые постепенно выпадают из поддерживаемых.

#Ключевые различия

Объём памяти против её скорости. Это независимые характеристики, и путать их — главная ошибка. Объём говорит, что запустится. Скорость говорит, как быстро. Карта на 16 ГБ с медленной памятью запустит модель, которую карта на 12 ГБ с быстрой не запустит вовсе — но будет отвечать медленнее на всём, что влезает в обе. Разбор самой характеристики — в справке о видеопамяти.

Поколение против объёма. Новое поколение даёт больше пропускной способности за ватт и лучшую поддержку. Прошлое поколение даёт больше гигабайт за рубль. Для локальных моделей второе обычно важнее.

Энергопотребление. Флагман под нагрузкой потребляет вдвое-втрое больше среднего сегмента, и при ежедневном использовании это превращается в заметную строку расходов. Расчёт — в материале о том, сколько электричества ест локальная LLM.

Экосистема. У NVIDIA всё работает из коробки. У AMD и Intel — работает, но требует разбирательства с бэкендами. Это не техническая характеристика, но это ваше время.

#Таблица характеристик

Последний столбец заполняете вы, подставив актуальные цены. Смотреть в таблице надо на соотношение первых двух колонок: карты с большим объёмом и умеренной скоростью — вход в старшие классы моделей, карты с высокой скоростью и умеренным объёмом — комфорт на средних.

Три вывода из таблицы, которые не зависят от текущих цен.

Первый: RTX 4060 Ti в версии на 16 ГБ — характерный пример карты, которую игровые обзоры разносят, а для локальных моделей она разумна. Её пропускная способность ниже, чем у 3060 предыдущего поколения, и в играх это приговор. Но 16 гигабайт открывают класс моделей 14B с приличным контекстом, чего 12 гигабайт не дают.

Второй: RTX 3090 остаётся ориентиром для верхнего сегмента. Те же 24 гигабайта и почти та же пропускная способность, что у 4090, при заметно более низкой цене на вторичном рынке. Что при этом нужно проверить — в материале о б/у видеокартах под LLM.

Третий: прыжок с 12 на 16 гигабайт полезнее прыжка с 16 на 24. Первый открывает класс 14B, второй — класс 32B, который на домашнем железе всё равно работает медленно и выигрывает не так убедительно, как принято думать. Как считать, что именно влезет, — в материале о том, сколько нужно VRAM для локальной LLM.

#Как посчитать: пример

Разберём методику на конкретном примере, подставив условные цены — свои возьмите из актуальных предложений.

Допустим, у вас есть бюджет, и в него укладываются три варианта: карта на 12 ГБ за некоторую сумму X, карта на 16 ГБ за 1,4X и карта на 24 ГБ за 2,6X.

Первый шаг — цена за гигабайт: X/12 = 0,083X, 1,4X/16 = 0,088X, 2,6X/24 = 0,108X. Младший и средний варианты практически равны — разница около 5%, то есть в пределах разброса цен между магазинами. Старший дороже за гигабайт примерно на 30%, и это плата за скорость, а не за объём.

Второй шаг — проверка скорости. Разделите пропускную способность каждой карты на вес вашей целевой модели и умножьте на 0,5. Если модель класса 14B в Q4_K_M весит 9 ГБ, то карта с 288 ГБ/с даст около 16 токенов в секунду, с 504 ГБ/с — около 28, с 936 ГБ/с — около 52. Все три выше порога комфорта, значит переплата за старшую карту покупает скорость, которую вы не почувствуете.

Третий шаг — проверка вместимости, и в этом примере он всё решает. Целевая модель класса 14B с контекстом 16 тысяч токенов требует около 13 ГБ. В карту на 12 ГБ она не помещается — значит младший вариант выбывает, несмотря на лучшую цену за гигабайт. Остаётся средний.

Именно в таком порядке: сначала отсеять по вместимости, потом по порогу скорости, и только среди оставшихся считать деньги за гигабайт. Обратный порядок приводит к покупке дешёвой карты, на которой нужная вам модель не запускается.

#Где флагманская карта объективно лучше

Если ваш сценарий — работа с длинными документами, флагман выигрывает не на проценты. Обработка промпта в десять тысяч токенов на карте среднего сегмента занимает секунды, на флагмане — доли секунды, и при повторяющейся работе это накапливается в часы.

Если вы собираетесь дообучать модели, а не только запускать их, объём и вычислительная мощность нужны одновременно, и компромиссы среднего сегмента здесь не работают.

Если вы цените отсутствие возни: одна мощная карта избавляет от подбора квантизации под остаток памяти, от вопросов разделения модели и от регулярного «а влезет ли». Это не техническое преимущество, но оно реально.

И если время генерации напрямую конвертируется в ваши деньги, разница в скорости окупает разницу в цене быстрее, чем кажется.

#Кому что подойдёт

Если бюджет ограничен, а задача — попробовать и работать с моделями до 8B — карта на 12 гигабайт. Разбор самого популярного варианта такого класса — в обзоре RTX 3060 на 12 ГБ для локальных моделей.

Если хочется класс 14B с комфортным контекстом — 16 гигабайт, и здесь объём важнее поколения.

Если нужен класс 32B — 24 гигабайта, и вариант с вторичного рынка обычно выгоднее нового.

Если вы уже упёрлись в 24 гигабайта — прежде чем брать вторую карту, прочитайте, что она даёт и чего не даёт: для одного пользователя вторая карта добавляет объём, но почти не добавляет скорости. Разбор — в материале о двух видеокартах под одну модель.

Если бюджета на дискретную карту нет вовсе — это не тупик: модели класса 3–4B работают на процессоре с приемлемой скоростью.

#Частые вопросы

#Сколько видеопамяти нужно минимально?

8 гигабайт — порог, за которым начинается осмысленная работа: модель класса 7–8B в Q4_K_M с умеренным контекстом. 12 гигабайт дают запас под длинный контекст, 16 открывают класс 14B. Меньше 8 — только модели до 4B.

#Стоит ли брать карту с 8 ГБ, если она новее и быстрее?

Для игр — возможно. Для локальных моделей — почти никогда: она не запустит то, что запустит более медленная карта на 12 или 16 гигабайт. Объём здесь первичен, скорость вторична.

#AMD или NVIDIA?

По железу карты AMD часто дают больше памяти за те же деньги. По программному обеспечению NVIDIA заметно спокойнее: всё работает без настройки бэкендов. Если вы не хотите разбираться — NVIDIA, если готовы — Radeon может быть выгоднее.

#Влияет ли объём оперативной памяти на скорость, если модель целиком в видеокарте?

Практически нет. Оперативная память важна для загрузки весов с диска и для сценариев с частичной выгрузкой слоёв. Если модель полностью в видеопамяти, генерация от системной памяти не зависит.

#Имеет ли значение версия PCIe?

Для одиночной карты — почти нет: после загрузки весов обмен по шине минимальный. Значение появляется при работе с несколькими картами и при частичной выгрузке слоёв на процессор, когда данные ходят через шину постоянно.

#Стоит ли ждать следующего поколения?

Ждать всегда есть чего. Практический ориентир: если текущая карта закрывает нужный вам класс моделей по объёму, выигрыш от нового поколения будет в скорости, а не в возможностях. Если не закрывает — ждать имеет смысл только ради роста объёма памяти, а он растёт медленно.

#Вывод

Если вы выбираете карту под локальные модели, считайте рубли за гигабайт при достаточной скорости — и почти всегда придёте не к флагману, а к карте прошлого поколения с большим объёмом памяти.

Конкретно: до 8B хватит 12 гигабайт; для 14B берите 16 и не смотрите на поколение; для 32B нужны 24, и здесь вторичный рынок обычно выгоднее нового. Флагман оправдан в двух случаях — если вы постоянно работаете с длинными документами или если планируете не только запускать модели, но и дообучать их. Во всех остальных сценариях переплата уходит в скорость, которую вы не почувствуете, потому что и без неё текст появляется быстрее, чем вы читаете.