Блог Persona
Личный ИИ без воды
Память и контекст, приватность, локальные модели, своя модель и продуктивность. Разборы, гайды и сравнения, в которых мы называем и то, где проигрываем.
Статей: 347 · страница 5 из 15
Как не слить бюджет на API: лимиты и предохранители
Неожиданный счёт за модель почти никогда не приходит от того, что вы много спрашивали. Семь предохранителей и разбор сценариев, в которых расход растёт кратно.
Своя модельКак оценить дообученную модель честно
Автор дообучения систематически переоценивает свою работу. Единственное лекарство — слепое сравнение с базовой моделью по заранее написанному протоколу. Форма оценки и список задач для контроля деградации.
ГайдыКак переключаться между провайдерами без переделки всего
Если смена провайдера модели — это переделка приложения, вы в зависимости, о которой не договаривались. Разбираем слой абстракции и чек-лист переезда.
ТехнологииКак поднять свой ИИ-сервис: от ноутбука до домена
Шесть этапов от локального запуска до публичного домена. На каждом — что именно ломается первым, сколько это стоит в деньгах и во времени и какой новый класс отказов вы покупаете вместе с удобством.
ОсновыНужен ли вам личный ИИ: дерево решений из семи вопросов
Семь вопросов, четыре из которых заканчиваются ответом «вам это не нужно». Честная проверка перед тем, как тратить вечера на установку и настройку.
ПриватностьКак самому проверить куда приложение отправляет данные
Инструмент недоверия к любому вендору, включая нас: конкретные команды для Windows, macOS и Linux, порядок работы с перехватывающим прокси и три теста, которые дают ответ без чтения исходного кода.
ТехнологииКак считать стоимость запросов к модели
У ассистента с памятью счёт формирует не ваш вопрос, а контекст, который приложение подмешивает к нему. Разбираем формулу по компонентам и считаем месяц.
ПамятьКак удалить факт из памяти ИИ и убедиться, что он удалён
Удаление факта — это четыре разных удаления: запись, поисковый индекс, граф связей и история диалога. Без всех четырёх факт возвращается. Даём чек-лист и процедуру проверки.
ПродуктивностьКак вспомнить чем вы занимались в конкретный день
Восстановление дня — это работа по уликам, и улики стареют по-разному. Разбираем порядок обхода пяти источников, показываем, что именно исчезает через сутки, месяц и полгода, и где восстановление становится невозможным.
СравненияКак выбирать ИИ-ассистента: девять критериев с весами
Процедура выбора, по которой можно отсеять и нас: девять проверяемых критериев, веса под три типа пользователя и форма для самостоятельного сравнения. Каждый критерий проверяется за минуты, а не читается в обзоре.
СравненияКакой провайдер под какую задачу: дерево решений
Выбор от сценария, а не от рейтинга: шесть типовых задач, дерево решений и короткий список кандидатов для каждой, включая ограничение, в которое вы упрётесь первым.
Своя модельКогда дообучение не нужно: сначала прочитайте это
Большинству людей, которые собрались дообучать модель, нужен не fine-tune, а промпт, RAG или модель побольше. Пять признаков, по которым это видно заранее, и таблица «симптом — правильный инструмент».
ПамятьПотеря в середине: почему модель не видит середину контекста
Порядок фрагментов в промпте влияет на ответ сильнее, чем их количество. Разбираем эффект, даём правило расстановки и способ проверить его на своей модели.
Своя модельКонвертация дообученной модели в GGUF и запуск локально
Последний разрыв маршрута: от папки с весами после обучения до модели, которая отвечает в вашем ассистенте. Команды конвертации и квантизации, Modelfile и проверка результата.
ПриватностьПочему компании запрещают ChatGPT и что делать сотруднику
Запрет редко означает «руководство не разбирается». За ним обычно стоят четыре конкретные причины. Разбираем их по одной и предлагаем три легальных сценария вместо теневого использования с личного телефона.
ОсновыЛичный ИИ без программирования: что реально доступно обычному человеку
Пятнадцать задач с колонкой «нужен ли терминал». Честное деление на три корзины: работает кликами, требует одной команды, требует программиста.
ОсновыЛичный ИИ для семьи: где заканчивается общий доступ
Чат и память в Persona раздельные по пользователям, а захват экрана и таймлайн — только у владельца инстанса. Общий семейный лайфлоггинг не поддерживается, и вот что из этого следует.
ОсновыЛичный ИИ и выгорание: почему у нас нет баллов продуктивности
Счётчики в трекере усиливают тревогу вместо того, чтобы помогать. Разбираем механизм на примере двух отчётов о дне, построенных на одних и тех же данных.
ОсновыЛичный ИИ против корпоративного ассистента: кому принадлежит ваш контекст
Корпоративный ассистент оптимизирован под интересы работодателя. Разбираем, где эти интересы расходятся с вашими, и что происходит с накопленным контекстом в день увольнения.
ТехнологииЛимиты контекста и вывода у провайдеров
Окно контекста, максимум входа и максимум ответа — три разных ограничения, которые новички считают одним. Разбираем симптомы каждого и учимся считать бюджет промпта.
ГайдыСтруктурированные логи: чтобы их можно было читать
Один и тот же инцидент, расследованный по текстовому журналу и по структурированному. Минимальный набор обязательных полей, правило про секреты в логах и почему регулярка тут не работает.
ПродуктивностьLogseq и ИИ: аутлайнер против документа
Разница между аутлайнером и документом кажется вопросом вкуса, пока за текст не берётся модель. Разбираем, почему блочная структура даёт машине то, что из свободного документа приходится вырезать эвристикой, и чем за это платят.
Своя модельLoRA и QLoRA: в чём разница и что выбрать
QLoRA — это не «улучшенная LoRA», а размен качества и скорости на видеопамять. Разбираем, за счёт чего он работает, и с какого объёма VRAM платить этим разменом уже незачем.
ПродуктивностьMarkdown как формат хранения на десятилетия
Формат заметок выбирают по удобству редактора, а платят за это через десять лет. Разбираем выбор по единственному критерию, который важен на таком сроке: откроется ли файл без специальной программы — и какой части Markdown это касается.
На этой странице совпадений нет
Живой фильтр ищет только по загруженным карточкам. Нажмите «Найти», чтобы искать по всему блогу.
Новые статьи — в RSS-ленте.