Тег
#ollama
Статьи блога Persona с тегом «ollama» — 20 материалов.
Статей с тегом: 20
Конвертация дообученной модели в GGUF и запуск локально
Последний разрыв маршрута: от папки с весами после обучения до модели, которая отвечает в вашем ассистенте. Команды конвертации и квантизации, Modelfile и проверка результата.
ПродуктивностьObsidian и локальный ИИ: как связать заметки с моделью
Связка Obsidian с локальной моделью собирается за вечер, но ломается в трёх предсказуемых местах. Разбираем настройку по шагам, типовую ошибку с origins, и отдельно — что делать с плагинами, которые отправляют хранилище в облако.
СравненияPersona против голой Ollama: девять задач, которые придётся решить самому
Ollama под MIT запускает модель — и на этом её задача заканчивается. Перечисляем девять вещей, которые придётся собрать поверх неё, чтобы получить ассистента с памятью, и честно оцениваем, кому эта сборка выгоднее готового продукта.
СравненияPersona против Open WebUI: пункт о брендинге, о котором узнают поздно
Open WebUI сменил лицензию дважды и с апреля 2025 запрещает убирать свой брендинг при более чем 50 пользователях за скользящие 30 дней. Разбираем условие построчно, сравниваем с Persona и признаём, где Open WebUI объективно сильнее.
ГайдыКак подключить свою модель в Persona: пошагово
Persona не даёт модель — её приносит пользователь. Пошагово: облачный ключ и своя Ollama, кнопка проверки и разбор экрана, который вы увидите без ключа.
Технологииsqlite-vec: векторный поиск прямо в SQLite, с тихим откатом
Ставим векторный поиск как необязательное расширение поверх обычной базы: команды, схема таблицы, запрос ближайших соседей и логика отката, если расширения нет.
ПриватностьМодель угроз локального ИИ: от чего он вас не защищает
Локальность снимает облачный класс рисков, оставляет нетронутым другой и часть рисков прямо ухудшает — концентрацией архива, открытым портом модели и отсутствием того, кто заметит взлом. Таблица угроз и минимальный набор мер.
ГайдыСвой набор тестов для модели: 10 задач вместо чужого рейтинга
Методика личной проверки моделей: фиксация условий прогона, слепая оценка ответов, форма записи результатов и способ убедиться, что сам набор задач рабочий.
ГайдыКак подобрать модель для ассистента с памятью
Ассистенту с памятью нужны две модели разных классов — разговорная и поисковая. Ошибка обычно во второй: её берут по остаточному принципу и получают поиск, который не находит.
Своя модельКак запустить LLM локально: полное руководство от железа до первого ответа
От «что у меня за железо» до работающей модели: команды проверки, формула памяти, таблица требований по пяти классам моделей и критерий выбора между четырьмя инструментами.
ГайдыКак запустить модель Hermes локально
Главная причина, по которой модель после скачивания отвечает не так, как ожидалось, — шаблон чата. Разбираем загрузку, шаблон и проверку вызова инструмента.
ГайдыModelfile в Ollama: свой пресет модели за пять строк
Modelfile фиксирует системный промпт и параметры вместе с моделью, чтобы не настраивать их заново в каждом клиенте. Готовый файл с построчным разбором и команда создания.
ГайдыПараметры Ollama которые действительно влияют на результат
Три параметра объясняют почти все жалобы «модель забывает» и «модель тормозит». Таблица со значениями по умолчанию, эффектом и четырьмя разными местами, где они задаются.
ГайдыОшибки Ollama и что они значат
Справочник по симптомам: каждое типовое сообщение об ошибке привязано к точной причине и одной проверочной команде вместо совета «попробуйте переустановить».
ГайдыOllama по сети: как открыть доступ и не открыть лишнего
Рабочая настройка сетевого доступа к Ollama и предупреждение, которое обычно опускают: встроенной авторизации у неё нет, открытый порт означает открытую модель для всех.
ГайдыOllama в Docker: когда контейнер помогает а когда мешает
Главная практическая боль — проброс видеокарты в контейнер. Готовый фрагмент compose с GPU, таблица оправданности по платформам и честный вывод про Windows и macOS.
СравненияOllama против llama.cpp: когда обёртка мешает
Не «что лучше», а шесть конкретных ситуаций, в которых удобство Ollama начинает стоить производительности или контроля — с протоколом замера, который вы повторите у себя.
ГайдыКак обучить свою модель: «вторая копия» на QLoRA, шаг за шагом
Практический разбор, как из своих данных собрать датасет и дообучить локальную модель с открытыми весами через QLoRA — даже на слабой видеокарте или бесплатном Colab. Честно про то, что реально получится, а что нет.
ГайдыПодключаем Ollama к Persona: полностью офлайн-ассистент без облака
Установить Ollama — половина дела. Чтобы получить приватного ассистента с памятью, его нужно подключить к Persona как локального провайдера: модель для чата и embed-модель для поиска по памяти. Разбираем настройку и честно — про скорость и качество.
Своя модельOllama: как запустить ИИ-модель локально на своём компьютере
Практический гайд по Ollama: установка на Windows, macOS и Linux, выбор модели под VRAM, базовые команды pull/run/list, настройка контекста и решение типичных проблем — чтобы запустить ИИ локально за несколько минут.
На этой странице совпадений нет
Живой фильтр ищет только по загруженным карточкам. Нажмите «Найти», чтобы искать по всему блогу.