Гайды

Как подключить свою модель в Persona: пошагово

Persona не даёт модель — её приносит пользователь. Пошагово: облачный ключ и своя Ollama, кнопка проверки и разбор экрана, который вы увидите без ключа.

Скажем главное сразу, до всяких шагов: Persona не поставляет языковую модель. Пока вы не подключили свой ключ облачного провайдера или свою Ollama, чат не отвечает — не «отвечает хуже» и не «отвечает с ограничениями», а не отвечает вовсе. Это не ограничение тарифа: продукт бесплатен, и ничего в нём платным доступом не закрыто. Модели просто нет, пока вы её не принесли.

Причина такая: мы не перепродаём чужие токены и не проксируем запросы через себя. Вы платите провайдеру напрямую или не платите вовсе, если выбрали бесплатный уровень либо собственное железо. Обратная сторона того же решения — первый шаг за вами, и он описан ниже.

#Что понадобится

Один из двух вариантов, не оба:

  • Ключ облачного провайдера. Где его взять и чем провайдеры различаются по доступности оплаты из России — в обзоре того, где взять ключ к языковой модели.
  • Своя Ollama на машине, доступной оттуда, где развёрнута Persona. Установка и выбор моделей — в гайде про подключение Ollama к Persona.

#Путь A. Облачный ключ

Шаг 1. Откройте /settings/llm.

Шаг 2. Выберите провайдера в списке. Рядом с каждым пунктом стоит подсказка о формате ключа: sk-or- у OpenRouter, gsk_ у Groq, sk-ant- у Anthropic, и так далее.

Шаг 3. Вставьте ключ в поле рядом с выбранным провайдером. Поля других провайдеров оставьте пустыми: пустое поле означает «не трогать сохранённое», а не «стереть». Благодаря этому можно держать настроенными несколько провайдеров и переключаться между ними, не вводя ключи заново.

Шаг 4. Если вашего сервиса нет в списке, выберите пункт 🔧 Свой OpenAI-совместимый сервис и заполните три поля: адрес эндпоинта из документации сервиса, точное имя модели и ключ. Хвост /chat/completions дописывать не нужно — он добавляется автоматически, если вы указали корень вида https://api.сервиса.com/v1.

Шаг 5. Сохраните.

Шаг 6. Нажмите кнопку «Проверить текущий провайдер». Она отправляет один короткий запрос настроенным ключом и показывает либо ok, либо текст ошибки. Ключ при этом не попадает ни в ответ страницы, ни в журналы.

Два ограничения на адрес, о которых стоит знать заранее. Адрес обязан быть https — по обычному http ключ ушёл бы открытым текстом; исключение сделано только для адресов домашней сети вроде 192.168.*, где своего сертификата обычно нет. Адреса служебных сетей облака закрыты всегда и для всех.

#Путь B. Своя Ollama

Шаг 1. Запустите Ollama на своей машине и убедитесь, что она слушает не только петлевой адрес: переменная окружения OLLAMA_HOST=0.0.0.0, порт 11434.

Шаг 2. Скачайте чат-модель под своё железо:

ollama pull qwen2.5:7b

На слабой машине берите компактную модель вместо этой. Как соотносится размер модели с доступной памятью и что из этого выйдет по скорости, разобрано в материале про выбор модели под память Persona.

Шаг 3. Проверьте, что сервер отвечает извне — с той машины, где работает Persona, а не только с той, где стоит Ollama:

curl http://АДРЕС-ВАШЕЙ-МАШИНЫ:11434/api/tags

Шаг 4. На /settings/llm выберите пункт 🏠 Локально через Ollama и впишите в поле адрес вашего сервера целиком, вместе со схемой: http://192.168.1.10:11434.

Шаг 5. Сохраните и нажмите кнопку проверки.

Самое важное ограничение этого пути, и оно честное: машина с Ollama должна быть включена и доступна оттуда, где работает Persona. Если Persona развёрнута на сервере, а Ollama — дома за обычным NAT, «просто так» это не заработает: нужен белый адрес, проброс порта или туннель. Когда компьютер выключен, ассистент не отвечает.

Второе ограничение: localhost и 127.0.0.1 участнику вписать нельзя, и это не придирка. Для участника «localhost» — это не его машина, а сервер, где крутится сама Persona вместе с Ollama владельца инстанса. Такой адрес отклоняется намеренно.

#Проверка результата

  1. Кнопка проверки на /settings/llm вернула ok.
  2. Чат ответил на короткий вопрос.
  3. Для облачного ключа — в кабинете провайдера появился расход за сегодня. Это единственное доказательство, что работает именно ваш ключ, а не какой-то сохранённый ранее.
  4. Для Ollama — на машине с моделью видно, что запрос дошёл, и ответ пришёл без обращения к сети.

Дальше имеет смысл пройти обычный первый сценарий — он описан в материале про то, как начать за 5 минут.

#Что вы увидите без ключа

Экран не пугает и не продаёт: чат сообщает, что своя модель не подключена, и предлагает открыть /settings/llm, выбрать провайдера и вставить свой ключ. Формулировка прямая: Persona ходит в модель вашим ключом, чужой не используется.

Отдельное сообщение предусмотрено для Ollama без адреса: система просит указать URL вашего сервера и отдельно поясняет, что локальный сервер Persona для вас не используется.

Есть промежуточный вариант на случай «пока нет своего ключа»: друг может одолжить вам свою модель через отдельную страницу совместного доступа, обязательно с дневным лимитом. Это его ключ и его деньги, лимит видят оба, и отозвать доступ он может в любой момент без предупреждения. Как временное решение — нормально, как постоянное — плохо.

#Что может пойти не так

  • Сохранили, а работает старый провайдер. Проверьте, что радиокнопка переключена, а не только вставлен ключ: это два независимых действия.
  • Ошибка авторизации при верном ключе. Чаще всего — невидимый пробел или перенос строки при копировании. Полная диагностика — в справочнике по ошибке 401 и другим проблемам с ключом.
  • Ключ шлюза вставлен в пункт вендора. Ключ российского шлюза работает только с адресом этого шлюза.
  • Ollama отвечает у вас, но не отвечает Persona. Сервер слушает только петлевой адрес либо недоступен снаружи. Проверяется командой из шага 3, выполненной с машины Persona.
  • Семантический поиск по памяти не включился. Он опционален и требует отдельной embed-модели; по умолчанию поиск работает по ключевым словам и модели не требует вовсе.

#Частые вопросы

#Почему Persona не даёт модель по умолчанию?

Потому что тогда мы либо перепродавали бы вам чужие токены с наценкой, либо оплачивали бы ваши запросы из своего кармана. Оба варианта означают, что вы платите нам за посредничество. Вместо этого вы платите провайдеру напрямую — или не платите, если выбрали бесплатный уровень либо собственное железо.

#Где хранится мой ключ?

Ключ участника лежит в базе приложения в открытом виде, в таблице пользовательских настроек. Ключ владельца инстанса может лечь в зашифрованное хранилище при заданном мастер-пароле, но при недоступности хранилища тоже уходит в открытую таблицу. Отсюда практическое правило: выпускайте для Persona отдельный ключ с лимитом трат. Подробности — в материале про хранение API-ключа и признаки его утечки.

#Можно ли настроить нескольких провайдеров сразу?

Да, ключи хранятся отдельно по провайдерам, и переключение активного не стирает остальные. Это самый простой способ иметь запасной вариант: основной провайдер и второй у другой компании, между которыми можно переключиться за пару кликов.

#Уходят ли мои сообщения к вам?

К нам не уходят: запросы идут вашим ключом напрямую выбранному провайдеру, мы их не проксируем. Уходят они именно провайдеру, которого вы выбрали, — и это стоит учитывать при выборе. Если выбрана ваша Ollama и Persona развёрнута в том же контуре, текст запроса не покидает ваш контур вовсе.

#Что будет, если я выберу «никто» в списке провайдеров?

Функции, требующие модели, отключатся, а сохранённые ключи останутся на месте. Это осознанный выбор «выключить ИИ», а не поломка: чат перестанет отвечать, но поиск по своим записям и работа с ними продолжат работать.

#Нужна ли вторая модель для поиска по памяти?

Нужна только для семантического поиска: он использует отдельную embed-модель и по умолчанию выключен. Обычный поиск работает по ключевым словам, не требует модели и включён всегда — именно поэтому часть возможностей ассистента продолжает работать даже при недоступном провайдере.

Хотите ИИ, который помнит вас?

Persona держит контекст между чатами и работает на вашем железе — если развернуть её у себя и подключить локальную модель.

Создать аккаунт