Рубрика
Гайды
Все статьи блога Persona в категории «Гайды»: 60 материалов о личном ИИ, памяти, приватности и локальных моделях.
Статей в рубрике: 60 · страница 2 из 3
Обратный прокси перед ИИ-сервисом: nginx или Caddy
Две настройки по умолчанию ломают именно ИИ-приложения: буферизация убивает потоковый ответ, короткий таймаут рвёт долгую генерацию. Готовые конфигурации для обоих серверов и способ проверить, что поток действительно течёт.
ГайдыСекреты в проекте: переменные окружения и защита от коммита
Ключ, попавший в коммит, остаётся в истории даже после удаления. Ставим три слоя защиты: игнор-правила, pre-commit хук с рабочими шаблонами и тест, который защищает сам себя.
ГайдыСвой домен для личного сервиса: DNS без боли
Три ошибки, из-за которых кажется, что домен не работает, хотя он работает. Таблица типов записей с назначением, объяснение задержки распространения и чек-лист проверки после каждого изменения.
ГайдыАвтозапуск сервиса на Linux через systemd
Unit-файл, который просто запускает процесс, пишется за минуту. Разбираем то, что дописывают потом и в спешке: перезапуск при падении без бесконечного цикла, потолок памяти и корректная остановка фоновых задач.
ГайдыУстановка Persona на Windows: пошагово и без установщика
Готового подписанного установщика нет — установка идёт через менеджер пакетов и командную строку, и это осознанное текущее состояние. Команды, чек-лист проверки после первого запуска и разбор типовых ошибок.
ГайдыАвтозапуск на Windows: задача расписания или служба
Служба не видит экран, а задача расписания по умолчанию умирает вместе с вашим сеансом. Разбираем оба варианта, показываем настройки S4U и триггер загрузки и объясняем, почему баг возвращался после каждой переустановки.
ГайдыБезопасность агента: белые списки и права по умолчанию
Модель угроз для личного агента и конкретная политика по умолчанию: чтение разрешено, запись по списку, выполнение — только с подтверждением. С матрицей прав и шаблоном настроек.
ГайдыНастройка файлового доступа для агента
Практическая инструкция по принципу «сначала одна папка на чтение» — с тестом, который показывает, что за пределы белого списка агент выйти не может.
ГайдыАгент в Telegram: один ассистент на сайте и в мессенджере
Главное требование к агенту в мессенджере — одна личность и одна память на обеих поверхностях. Разбираем отображение чатов в сессии, allowlist отправителей и защиту от дублей.
ГайдыFlash Attention и квантизация KV-кэша: как выиграть память
Две настройки, дающие самый большой выигрыш видеопамяти при почти нулевой потере качества. Точные флаги для llama.cpp и Ollama и расчёт экономии по четырём связкам.
ГайдыJan: открытая альтернатива LM Studio для локальных моделей
Настройка Jan по шагам и честная таблица того, что есть в LM Studio и чего в Jan пока нет — чтобы выбор в пользу открытости был осознанным, а не разочаровывающим.
ГайдыКак измерить скорость локальной модели правильно
Большинство домашних замеров неверны из-за отсутствия прогрева и разной длины контекста. Протокол из шести шагов и команды, дающие воспроизводимые числа в llama.cpp и Ollama.
ГайдыКак написать свой MCP-сервер
Транспорт MCP пишется за час, а вот описания инструментов решают, будет модель их вызывать правильно или нет. Минимальный рабочий сервер плюс шесть правил формулировки описаний.
ГайдыКак обновлять локальные модели и не сломать то что работало
Модель — такая же зависимость с версией, как библиотека в коде. Регламент обновления из пяти шагов и чек-лист приёмочной проверки, который ловит регрессию до переключения.
ГайдыСвой набор тестов для модели: 10 задач вместо чужого рейтинга
Методика личной проверки моделей: фиксация условий прогона, слепая оценка ответов, форма записи результатов и способ убедиться, что сам набор задач рабочий.
ГайдыКак подобрать модель для ассистента с памятью
Ассистенту с памятью нужны две модели разных классов — разговорная и поисковая. Ошибка обычно во второй: её берут по остаточному принципу и получают поиск, который не находит.
ГайдыКак запустить модель Hermes локально
Главная причина, по которой модель после скачивания отвечает не так, как ожидалось, — шаблон чата. Разбираем загрузку, шаблон и проверку вызова инструмента.
ГайдыМодель отвечает плохо: когда виновата не модель
Прежде чем качать другую модель, проверьте шаблон чата, длину контекста, температуру и системный промпт. В большинстве случаев причина там, и смена модели ничего не даст.
Гайдыllama.cpp: сборка запуск и параметры без магии
Сборка под CUDA, Metal и CPU, запуск модели и разбор флагов, которые реально меняют скорость в разы: -ngl, -c, -t, -fa — с методикой замера эффекта каждого.
Гайдыllama.cpp server: свой OpenAI-совместимый эндпоинт
Одна команда поднимает локальный эндпоинт, к которому подключается любой клиент, ожидающий API OpenAI. Пример запроса и таблица полей, которые действительно поддерживаются.
ГайдыLLM на видеокартах AMD: ROCm Vulkan и реальность
Три разных бэкенда для Radeon — ROCm, Vulkan и молчаливый откат на процессор, — таблица поддержки по поколениям карт и порядок диагностики, объясняющий, почему у соседа заработало.
ГайдыLLM на Apple Silicon: unified memory и её пределы
Mac выигрывает по объёму доступной модели памяти и проигрывает по скорости обработки промпта. Таблица пропускной способности по чипам и разбор асимметрии, о которой обычно молчат.
ГайдыLLM на Intel Arc и встроенной графике Intel
Что делать владельцу Arc или свежего встроенного графического ядра, когда все гайды написаны под NVIDIA: порядок установки бэкенда и расчёт ожидаемой скорости.
ГайдыLM Studio: локальные модели для тех кто не хочет терминал
Пошаговая настройка LM Studio, разбор вкладки параметров загрузки модели и честная заметка о том, что это закрытое приложение со своими условиями использования.
На этой странице совпадений нет
Живой фильтр ищет только по загруженным карточкам. Нажмите «Найти», чтобы искать по всему блогу.