Материалы про личный ИИ почти всегда написаны с одной стороны. Эта — с другой: здесь перечислено то, чего он не делает, с пометкой, из-за чего именно — из-за физики задачи, из-за нехватки рук или из-за сознательного решения.
Пометки означают следующее. Невозможно — не решается в рамках нынешнего подхода вообще. Не сделано — технически возможно, но не реализовано. Отложено — в планах есть, сроков нет.
#Двенадцать ограничений
1. Не станет умнее топовой облачной модели. Невозможно. Компактная локальная модель объективно слабее в сложных рассуждениях, коде и редких знаниях. Дообучение переносит манеру, а не интеллект. Личный ИИ выигрывает памятью о вашем контексте и контролем над данными — не «сырым» умом.
2. Не гарантирует правдивость. Невозможно. Уверенный тон не связан с точностью. Память ухудшает ситуацию по-своему: ошибочный факт, попавший в хранилище, будет повторяться уверенно, пока вы его не удалите. Полностью это не устраняется: единственная защита — ревизия хранилища.
3. Не читает мысли и не догадывается о неявном. Невозможно. Ассистент знает то, что вы записали или что он захватил. «Он должен был понять» — распространённое разочарование, не имеющее технического решения.
4. Не работает на телефоне в фоне. Не сделано и не планируется. Мобильного приложения с фоновым захватом нет. Веб-интерфейс с телефона открывается, но это не то же самое.
5. Не синхронизируется между устройствами. Не сделано. Память живёт на одной машине. Перенести базу можно вручную; автоматической синхронизации нет.
6. Не ставится одним кликом. Не сделано. Готового подписанного установщика нет. Установка — это несколько шагов, часть из которых требует терминала.
7. Не захватывает экран в контейнере. Невозможно в этой конфигурации. В контейнере нет графической сессии, снять экран нечем. Контейнер — это веб и приём данных извне, но не захват.
8. Не даёт многопользовательский лайфлоггинг. Не сделано. Захват экрана и звука, таймлайн, поиск, заметки, напоминания, дашборды, Telegram и брифинг доступны только владельцу инстанса. Участник получает чат, память, граф, голос, навыки и свой характер. Семейный или командный общий захват не поддерживается.
9. Не является усиленной мульти-тенантной границей. Ограничение архитектуры. Разграничение между пользователями — это список разрешённых путей и пользовательские настройки поверх кодовой базы, которая начиналась однопользовательской. Это не то же самое, что изоляция, спроектированная с нуля.
10. Не хранит ключи участников в зашифрованном виде. Не сделано. Ключ облачного провайдера, добавленный участником, пишется в базу в открытом виде. У администратора инстанса есть доступ к базе.
11. Не позволяет проверить наши утверждения по коду. Сознательное решение на сегодня. Репозиторий закрыт, публичной лицензии нет. Аргумент «прочитайте исходники и убедитесь» нам недоступен — в отличие от по-настоящему открытых проектов. Это существенное ограничение доверия, и обходить его формулировками мы не будем.
12. Не работает без телеметрии на размещённой версии. Сознательное решение. На публичных страницах и в интерфейсе размещённой версии стоит Яндекс.Метрика с вебвизором, который пишет клики и навигацию. При развёртывании у себя счётчика нет — это один подключаемый шаблон.
#Что из этого следует для формулировки «данные у вас»
Фраза «данные остаются у вас» верна не вообще, а в конкретной конфигурации: Persona развёрнута на вашей машине или вашем сервере и подключена к локальной модели.
Если вы подключили ключ облачного провайдера, текст запросов уходит именно этому провайдеру — Persona запросы не проксирует. Если вы пользуетесь размещённой версией, данные лежат на её сервере. Участник без своего ключа и без своей модели не получит ответов вовсе.
Это не оговорка мелким шрифтом, а описание того, как устроен продукт. Общая рамка категории — в разборе что такое личный ИИ.
#Что из этого следует на практике
Держите рядом сильную модель. Личный ассистент с памятью и мощная облачная модель закрывают разные задачи. Попытка заменить вторую первым заканчивается разочарованием.
Не переносите в личный ИИ то, что требует корпоративного контура. Чужие персональные данные, регулируемые отрасли, обязательства по договору — это не его зона.
Ревизуйте память. Ошибочный факт в хранилище не исчезает сам и портит ответы месяцами.
Считайте полную стоимость. Железо, электричество, ваше время на обслуживание. Главная статья расходов обычно время, а не деньги.
Планируйте резервные копии. Всё, что лежит на одной машине, теряется вместе с этой машиной.
#Риски, о которых редко пишут
Отдельно — не «не умеет», а «может навредить».
Самохостинг переносит ответственность на вас. Обновления, доступы, резервные копии, открытые наружу порты. Разбор конкретных ошибок — в статье про риски самохостинга честно.
Локальность не равна безопасности. Данные на вашей машине защищены ровно настолько, насколько защищена машина. Полный периметр угроз — в разборе угроз локального ИИ.
Накопленный архив — это концентрированная цель. Год переписки, заметок и захваченного контекста в одной базе привлекательнее для злоумышленника, чем те же данные, разбросанные по разным сервисам.
Автономность ассистента ограничена намеренно. Агент с доступом к оболочке способен сделать необратимое. Границы, которые мы не переходим, и почему — тема отдельная, но исходите из того, что «ассистент сам всё сделает» — не про этот класс инструментов.
#Где интуиция подводит
«Со временем маленькая модель догонит большую». Компактные модели действительно улучшаются, но и топовые тоже. Разрыв сокращается, но рассчитывать на его исчезновение при планировании не стоит.
«Дообучение вложит в модель мои знания». Не вложит: оно переносит манеру. Знания живут в хранилище и подставляются в запрос. Три уровня «цифрового двойника» и достижимость каждого — в разборе что такое цифровой двойник.
«Если продукт закроется, я всё потеряю». При локальном развёртывании — нет: база лежит у вас. Это, пожалуй, единственное место, где список ограничений играет в нашу пользу.
«Ограничения — это временно». Часть да, часть нет. Пометки в списке выше расставлены именно поэтому: невозможное не станет возможным от смены версии.
Прежде чем принимать решение, стоит пройти проверку из семи вопросов — нужен ли вам личный ИИ; четыре ветки из семи там заканчиваются ответом «нет». А сравнение с конкурентами, включая пункты, где мы проигрываем, — в статье где мы проигрываем по некоторым пунктам.
#Частые вопросы
#Личный ИИ может полностью заменить ChatGPT?
Нет. Для сложных разовых задач топовая облачная модель остаётся сильнее, и это не изменится в обозримом будущем. Разумная стратегия — держать оба и переключаться по типу задачи, а не выбирать один.
#Захват экрана работает на сервере или в контейнере?
Нет: там нет графической сессии, и снять экран нечем. Контейнерное развёртывание годится для веб-интерфейса и приёма данных, но захват в нём не работает. Это ограничение среды, а не настройки.
#Можно ли дать доступ к ассистенту членам семьи?
Регистрация открыта, и каждый получит свой чат, свою память, свой характер, граф, голос и навыки. Но захват, таймлайн, поиск, заметки, напоминания и брифинг остаются у владельца инстанса — общий семейный лайфлоггинг не поддерживается.
#Насколько безопасно хранить ключ от облачного провайдера?
Ключ участника пишется в базу в открытом виде, и у администратора инстанса есть доступ к базе. Практический вывод: на чужом инстансе используйте ключ с ограничением по расходам, а лучше — разворачивайте своё.
#Почему нельзя просто проверить это по коду?
Репозиторий закрыт, файла публичной лицензии в нём нет. Поэтому проверить наши утверждения чтением исходников нельзя — можно только проверить поведение продукта у себя. Мы называем это ограничением, а не преимуществом.
#Что из списка изменится в ближайшее время?
Честный ответ — не знаем, и обещать сроки не будем. Пометка «отложено» означает ровно это: задача признана, приоритета нет. Пометка «невозможно» не изменится вовсе.
#Вывод
Личный ИИ — узкий инструмент с длинным списком того, чего он не делает. Он не умнее облака, не работает в фоне на телефоне, не синхронизируется между устройствами, не ставится одним кликом и не позволяет проверить себя по коду.
Он делает одно: помнит ваш контекст и держит его там, где вы решили. Если этого достаточно для вашей задачи — инструмент рабочий. Если вы ждали от него чего-то из списка выше — лучше узнать сейчас, а не через три вечера настройки.