Гайды

LM Studio: локальные модели для тех кто не хочет терминал

Пошаговая настройка LM Studio, разбор вкладки параметров загрузки модели и честная заметка о том, что это закрытое приложение со своими условиями использования.

LM Studio закрывает конкретный запрос: запустить локальную модель, ни разу не открыв терминал. Скачать приложение, найти модель во встроенном поиске, нажать кнопку, начать диалог. Для человека, который хочет попробовать локальный ИИ и не готов ради этого разбираться с CMake, это самый короткий путь.

Не нужна она в двух случаях. Первый — если модель требуется как фоновый сервис для других программ: настольное приложение для этого тяжеловато, ollama serve подходит лучше. Второй — если для вас принципиально, чтобы инструмент был открытым: LM Studio закрытая, и об этом ниже отдельный раздел.

#Что понадобится

  • 64-битная система: Windows, macOS на Apple Silicon или Linux. Поддержка старых процессоров без набора инструкций AVX2 ограничена — список требований и доступность сборок сверяйте на сайте проекта, он меняется.
  • Свободное место: само приложение — сотни мегабайт, модели — от одного гигабайта до десятков.
  • Понимание, какой класс модели тянет ваше железо. Приложение подсказывает, но подсказка приблизительная: она учитывает вес файла и не учитывает контекст, который вы выставите потом.

Расположение элементов интерфейса между версиями меняется чаще, чем логика работы. Названия вкладок ниже верны на момент написания; если что-то переехало, ищите по смыслу.

#Шаг 1. Установка

Скачайте установщик с официального сайта проекта и запустите как обычную программу. На macOS приложение переносится в папку с программами, на Linux распространяется в виде образа AppImage, которому нужно выдать право на запуск.

При первом старте приложение предложит выбрать режим интерфейса — от упрощённого до режима разработчика. Начинать разумно с промежуточного: в упрощённом спрятаны как раз те настройки, ради которых стоит держать LM Studio.

#Шаг 2. Найти и скачать модель

Во вкладке поиска моделей вводится название семейства — например, qwen2.5 7b instruct. Результаты подтягиваются из открытого каталога моделей, и для каждой показывается список файлов с разными уровнями квантизации.

Здесь принимается главное решение. Приложение обычно помечает варианты, которые поместятся в вашу память, но пометка учитывает только вес файла и не учитывает контекст, который вы потом выставите. Практическое правило: берите вариант, который меньше вашей видеопамяти на 2–3 гигабайта. Суффиксы Q4_K_M, Q5_K_S и подобные означают уровень квантизации: чем меньше число, тем меньше файл и тем заметнее падает качество. Ниже четырёх бит опускаться, как правило, не стоит.

Файлы GGUF, скачанные откуда-то ещё, тоже работают: их кладут в каталог моделей, который приложение показывает в настройках, соблюдая структуру подпапок «автор / модель / файл».

#Шаг 3. Вкладка параметров загрузки

Это то, ради чего LM Studio стоит предпочесть более простым клиентам. При загрузке модели открывается панель параметров — разберём те, что имеют значение.

Параметр Что делает На что смотреть
GPU Offload сколько слоёв считать на видеокарте ставьте максимум, если влезает; это прямой аналог -ngl
Context Length размер контекста в токенах главный потребитель памяти после весов
KV Cache Quantization точность хранения кэша контекста восьмибитный вариант экономит вдвое почти без потерь
Flash Attention другой алгоритм внимания обычно быстрее и экономнее по памяти
CPU Threads потоки процессора важен только при частичной выгрузке на CPU
Evaluation Batch Size размер батча обработки промпта влияет на скорость чтения длинного запроса
Keep Model in Memory не выгружать веса быстрее повторный старт, занята память

Порядок настройки, который работает: сначала выставить GPU Offload на максимум и загрузить модель. Если загрузилась — поднимать Context Length, пока не начнёт отказывать. Если не загрузилась — включить квантизацию KV-кэша и Flash Attention, потом снова пробовать.

Менять больше одного параметра за раз бессмысленно: вы не поймёте, что именно помогло.

#Шаг 4. Системный промпт и параметры сэмплинга

В окне диалога справа доступны настройки поведения: системный промпт, температура, ограничения на длину ответа, штраф за повторы. Эти параметры не влияют на скорость, только на текст.

Практически полезны два. Системный промпт задаёт роль и язык ответа — если модель отвечает по-английски на русские вопросы, явное указание в системном промпте обычно решает. Температура около нуля даёт предсказуемые ответы для фактических вопросов, значения выше — более разнообразный текст.

Набор параметров можно сохранить пресетом и переключаться между ними, не настраивая заново.

#Шаг 5. Локальный сервер

LM Studio умеет поднимать HTTP-эндпоинт, совместимый с API OpenAI: любое приложение, умеющее работать с этим API, подключится к вашей локальной модели, если указать адрес сервера вместо облачного.

Включается это на вкладке разработчика. Там же виден адрес и порт, а в журнале — приходящие запросы. Есть и консольная утилита lms, позволяющая управлять сервером без открытия окна, — она устанавливается вместе с приложением.

Один нюанс, который экономит час отладки: сервер отвечает только пока приложение запущено. Закрыли окно — эндпоинт пропал.

#Проверка результата

Три признака, что всё настроено правильно.

Первый: модель загрузилась целиком на видеокарту. В панели после загрузки видно распределение между GPU и CPU. Если часть слоёв осталась на процессоре при том, что памяти достаточно, — проверьте ползунок GPU Offload, он мог сброситься при смене модели.

Второй: скорость в разумном диапазоне. После каждого ответа приложение показывает статистику: число токенов и скорость генерации. Для модели класса 7B на дискретной видеокарте это обычно десятки токенов в секунду; единицы означают, что модель считается на процессоре.

Третий: модель помнит начало разговора. Задайте вопрос, потом ещё пять, потом спросите о содержании первого. Если не помнит — контекст мал, поднимайте Context Length.

#Что может пойти не так

Модель не загружается с ошибкой памяти. Уменьшите Context Length, включите квантизацию KV-кэша, при необходимости снизьте GPU Offload. Порядок по возрастанию потери качества: контекст, квантизация кэша, число слоёв на GPU, и только потом смена модели.

Ответы обрываются на середине. Ограничение на длину ответа в настройках сэмплинга. Увеличьте лимит токенов или уберите его.

Модель отвечает не на том языке. Явно задайте язык в системном промпте. Компактные модели часто сваливаются на английский, особенно при агрессивной квантизации.

Всё работает медленно, хотя видеокарта мощная. Проверьте, что GPU Offload действительно применился и что не выставлен слишком большой контекст. Если карта AMD или Intel — возможно, приложение работает через универсальный бэкенд, а не через родной.

Скачанная модель не появилась в списке. Проверьте структуру каталога: приложение ожидает вложенность «папка автора / папка модели / файл», а не файл в корне.

#Честно о лицензии

LM Studio — закрытое проприетарное приложение. Исходный код не опубликован, аудит невозможен, вы полагаетесь на заявления разработчика о том, что делает программа. Загрузка бесплатна, но это не свободное ПО: условия использования задаются лицензией разработчика и могут меняться.

На момент написания приложение распространяется бесплатно, в том числе для рабочего использования, — но это ровно тот факт, который нужно проверять на сайте проекта перед внедрением в организации, потому что условия для коммерческого применения у подобных продуктов пересматривались уже не раз.

Отдельно стоит понимать разницу между настольным клиентом и ассистентом с памятью: LM Studio даёт окно диалога с моделью, но не хранит ваш контекст между сессиями — сравнение подходов есть в разборе Persona и LM Studio. Для части читателей закрытость кода значения не имеет: программа работает на вашей машине, модели скачиваются из открытого каталога. Для другой части — имеет, и тогда альтернатива, у которой исходный код опубликован, — Jan, о котором есть отдельный гайд.

Отдельная путаница, которую стоит развести: закрытость приложения и лицензия самих моделей — разные вещи. Модель с «открытыми весами» тоже далеко не всегда свободна, и это разбирает материал об отличии открытых весов от открытого исходного кода.

#Частые вопросы

#LM Studio бесплатна?

Загрузка и использование бесплатны на момент написания. Это не делает её открытой: код закрыт, условия определяет разработчик. Перед использованием в компании проверьте текущий текст лицензии на сайте проекта — он менялся.

#Отправляет ли LM Studio мои диалоги куда-то?

Генерация происходит на вашей машине, и переписка с локальной моделью не требует сети. Но приложение обращается в интернет для поиска и загрузки моделей и для проверки обновлений. Поскольку код закрыт, проверить полный список обращений самостоятельно нельзя — можно только ограничить их фаерволом.

#Чем LM Studio отличается от Ollama?

Способом работы. LM Studio — настольное приложение с окном диалога и настройками в интерфейсе; Ollama — фоновый сервис с управлением из терминала. Движок под капотом у обоих общий. Маршрут установки Ollama описан в гайде по локальному запуску через Ollama.

#Можно ли использовать одну скачанную модель и там, и там?

Технически файлы GGUF совместимы, но каталоги хранения разные: LM Studio хранит файлы в своей структуре папок, Ollama — в собственном формате блобов. Проще держать копии, чем связывать хранилища.

#Работает ли LM Studio на видеокартах AMD и Intel?

Работает, но качество поддержки зависит от платформы и версии: где-то через родной бэкенд, где-то через универсальный, который заметно медленнее. Проверяйте скорость замером, а не по факту «запустилось». Общий обзор путей локального запуска — в руководстве по запуску LLM локально.

#Нужен ли ей интернет постоянно?

Нет. После загрузки модели диалог работает офлайн. Интернет требуется для поиска и скачивания новых моделей и обновления приложения.

Хотите ИИ, который помнит вас?

Persona держит контекст между чатами и работает на вашем железе — если развернуть её у себя и подключить локальную модель.

Создать аккаунт