Когда заходит речь о личном ИИ, рано или поздно встаёт развилка: запускать модель на своём железе или ходить в облако к чужим серверам. Маркетинг с обеих сторон обещает то «полную свободу», то «безграничный интеллект». Реальность скучнее и полезнее: у каждого подхода есть честная цена, которую вы платите либо приватностью, либо качеством, либо деньгами. Разложим без прикрас.
Сразу оговоримся: «лучше» здесь не существует в вакууме. Есть ваша задача, ваше железо и ваша терпимость к тому, чтобы переписка уходила на чужой сервер. Если вы ещё не определились, зачем вам вообще персональный ассистент, начните с разбора что такое личный ИИ — это сэкономит вам неверный выбор инфраструктуры.
#Сравнение в одной таблице
| Критерий | Локальная модель | Облачная модель |
|---|---|---|
| Приватность | запрос остаётся на машине, где запущена модель | запросы уходят на сервер провайдера |
| Стоимость | разовая (железо), дальше почти бесплатно | подписка или плата за токены, регулярно |
| Скорость | зависит от вашего железа | стабильно высокая, не зависит от вас |
| Качество («сырой» интеллект) | обычно слабее | обычно сильнее, доступны топовые модели |
| Офлайн | работает без интернета | без сети не работает |
| Требования к железу | высокие (видеопамять, ОЗУ) | минимальные, хватит браузера |
Таблица намеренно без цифр в гигабайтах и долларах: они устаревают за месяцы и зависят от конкретной модели. Важнее понять логику компромиссов, а не запомнить цену конкретной видеокарты. Единственное, что стоит посчитать до покупки чего бы то ни было, — влезет ли выбранная модель в вашу память: формула из двух слагаемых есть в разборе сколько нужно VRAM для локальной LLM.
#Где локальная модель действительно сильна
Главный плюс — приватность, и формулировать её надо точно. Когда модель крутится на вашем компьютере, текст запроса не уходит наружу — при условии, что и приложение, и модель развёрнуты на этой же машине. Для дневника, медицинских заметок, рабочих секретов или просто личных мыслей это не «приятный бонус», а основа доверия. Подробнее о том, как устроен такой режим, — в материале про приватный ИИ локально.
Второй плюс — стоимость в долгую. Вы один раз вкладываетесь в железо (или используете то, что уже есть), и дальше можете гонять модель сколько угодно без счётчика токенов. Если вы общаетесь с ассистентом ежедневно и помногу, через год-два локальный запуск часто выходит дешевле подписки.
Третий — независимость. Нет интернета в поезде, провайдер поднял цены, сервис закрыл доступ в вашем регионе или вовсе прекратил работу — локальная модель продолжит работать. Запустить её проще, чем кажется: с чего начать, разобрано в гайде по локальному запуску через Ollama, а полный путь от проверки железа до первого ответа — в разборе как запустить LLM локально.
Честная оговорка: за всё это вы платите «сырым» интеллектом. Модель, которая помещается на домашнюю видеокарту, как правило, заметно слабее флагманов из облака — она хуже рассуждает в сложных задачах, чаще ошибается в длинных цепочках логики и менее аккуратна в нишевых темах.
#Где выигрывает облако
Облако даёт доступ к самым большим и умным моделям, которые вы физически не запустите дома. Если вам нужен серьёзный анализ кода, тонкая работа с текстом или рассуждения над сложной задачей, разрыв в качестве будет ощутимым.
Второй козырь — отсутствие порога входа. Не нужно покупать видеокарту, разбираться с драйверами и квантизацией. Открыли браузер — и работаете. Скорость ответов стабильна и не проседает на слабом ноутбуке.
Третий — большое контекстное окно. Топовые облачные модели держат в памяти куда больше текста за раз, что критично для работы с длинными документами. Что это вообще такое и зачем нужно, мы разбирали в статье про контекстное окно на 1M токенов. Оговорка, которая касается обеих сторон: заявленная цифра контекста — не то же самое, что длина, на которой модель реально удерживает факты, и проверять это стоит самому — методика есть в разборе заявленного контекста против полезного.
Цена за это — приватность и регулярные расходы. Ваши запросы обрабатываются на чужих серверах, и вы зависите от тарифов, политики провайдера и наличия сети.
#Гибрид: не выбирать, а сочетать
На практике самый разумный путь — не религиозный выбор одной стороны, а гибрид. Логика простая: чувствительное держим локально, тяжёлое отдаём в облако.
Личные заметки, дневник, переписку, черновики мыслей обрабатывает локальная модель — здесь приватность важнее пары процентов качества. А когда нужен сложный анализ или работа с большим документом без секретов, запрос уходит в облако к мощной модели.
Так вы получаете приватность там, где она нужна, и интеллект там, где он критичен. Persona рассчитана именно на такой сценарий: провайдер модели выбирается в настройках, и переключить его можно под задачу, а не раз и навсегда. Важная деталь: Persona не проксирует запросы через себя — вы подключаете либо свою Ollama, либо свой ключ у конкретного провайдера, и текст уходит именно ему.
#Как выбрать под себя
Задайте себе три вопроса. Насколько чувствительны ваши данные — если речь о личном и секретном, локальный запуск перевешивает. Какое у вас железо — без приличной видеопамяти локальная модель будет медленной и слабой. Как часто вы пользуетесь ИИ — при ежедневной интенсивной работе локальный запуск окупается, при редких сложных задачах дешевле облако.
Если на втором вопросе вы застряли, идите от железа, а не от списка моделей: пошаговый разбор есть в статье какую модель выбрать под свою задачу и своё железо. Не гонитесь за «правильным» ответом из обзоров — правильный тот, что совпадает с вашими реальными привычками, а не с воображаемыми.
#Частые вопросы
#Что именно уходит наружу при работе с облачной моделью?
Текст вашего запроса и всё, что приложение подмешало к нему в контекст: фрагменты памяти, куски документов, системный промпт. Уходит это конкретному провайдеру, чей ключ вы подключили. Архив захвата, скриншоты и база памяти при этом остаются на машине, где развёрнуто приложение.
#Можно ли считать, что локальная модель полностью приватна?
Только в конкретной конфигурации: приложение и модель развёрнуты на вашей машине, облачный ключ не подключён. Тогда текст запроса действительно не уходит в сеть. Если приложение работает на чужом сервере, «локальная модель» означает локальную для этого сервера, а не для вас.
#Насколько дешевле локальный запуск в реальности?
Зависит от того, есть ли у вас подходящая видеокарта. Если есть — расходы почти нулевые, кроме электричества. Если её надо покупать, окупаемость считается от вашего месячного расхода на облако, и при редком использовании она не наступает никогда. Считайте по своему сценарию, а не по чужой таблице.
#Что делать, если модель отвечает плохо — брать другую?
Сначала проверьте настройки, а не модель: шаблон чата, длину контекста, температуру и системный промпт. В большинстве случаев причина там, и скачивание другой модели ничего не изменит. Порядок диагностики разобран в статье когда виновата не модель.
#Можно ли переключаться между локальной и облачной моделью на лету?
В Persona провайдер задаётся в настройках, и его можно менять — это и есть гибридный сценарий. Помните только, что смена провайдера меняет и границу приватности: то, что вчера оставалось на машине, сегодня уйдёт выбранному провайдеру. Держите это в голове при работе с чувствительными данными.
#Влияет ли квантизация на приватность или только на качество?
Только на качество и объём занимаемой памяти — на границу приватности она не влияет никак. Но выбор уровня квантизации решает, влезет ли модель в вашу видеопамять вообще, и где проходит точка перелома по качеству, разобрано в статье про квантизацию Q4, Q5 и Q8.
#Вывод
Локальная модель — это про приватность, независимость и дешевизну в долгую, ценой более слабого интеллекта и требований к железу. Облако — про максимальное качество и нулевой порог входа, ценой приватности и постоянных расходов. Ни один вариант не «побеждает» вообще: если ваши данные чувствительны и железо есть — берите локальный запуск; если нужен максимум интеллекта на разовых задачах без секретов — берите облако; если у вас и то и другое — стройте гибрид, держа личное при себе и отдавая тяжёлое наружу.