Фраза «ассистент с памятью» стоит на посадочных страницах десятка продуктов, которые устроены совершенно по-разному. Один хранит десять строк о вас, другой ищет по вашим документам, третий держит весь диалог в контексте, четвёртый вшивает поведение в веса модели.
Все четыре называются одинаково. Различаются они всем: тем, что запоминается, тем, как это удалить, и тем, что произойдёт при смене модели.
#Короткий ответ
Под «памятью» скрываются четыре механизма:
- Профиль — короткий текст о вас, подставляемый в каждый запрос.
- Длинный контекст — весь диалог целиком помещается в окно модели.
- Поиск по хранилищу — фрагменты ваших данных находятся и подставляются под конкретный вопрос.
- Дообучение — поведение зашито в веса модели.
Отличить их по интерфейсу можно за минуту, и от этого зависят три практических вещи: сколько ассистент реально помнит, можно ли удалить конкретный факт и переживёт ли память смену модели.
#Четыре механизма и как их узнать
| Механизм | Что помнит | Признак в интерфейсе | Удалить факт |
|---|---|---|---|
| Профиль | десятки фактов | редактируемое поле «обо мне» | да, правкой текста |
| Длинный контекст | текущий диалог | «помнит» внутри чата, забывает в новом | закрыть диалог |
| Поиск по хранилищу | тысячи фрагментов | поиск, источники, ссылки на записи | да, удалением записи |
| Дообучение | манеру, не факты | «своя модель», «обучено на ваших данных» | нет, только переобучение |
Профиль. Самый простой и самый распространённый. Ассистент хранит короткую заметку и подставляет её в начало каждого разговора. Признак: есть страница, где эту заметку видно и можно поправить. Ограничение очевидно — в неё влезает немного, и растёт она плохо.
Длинный контекст. Не память в строгом смысле, а размер окна. Внутри одного диалога ассистент помнит всё, между диалогами — ничего. Признак: начните новый чат и спросите о том, что обсуждали час назад. Не помнит — значит, это был контекст.
Поиск по хранилищу. Ваши материалы лежат отдельно, перед ответом релевантные куски находятся и подставляются в запрос. Признаки: ассистент ссылается на конкретные записи, есть поиск, есть список источников. Это единственный из четырёх механизмов, который масштабируется на годы данных. Механика — в статье что такое RAG простыми словами.
Дообучение. Модель изменена на ваших примерах. Признак: продукт говорит про «свою модель» и требует от вас датасет. Важно понимать: этот механизм переносит манеру, а не факты, — почему именно так, разобрано в статье RAG или fine-tune: что выбрать.
#Как это устроено под капотом
Разница между четырьмя механизмами сводится к одному вопросу: где лежит информация в момент, когда модель порождает ответ.
В профиле и в длинном контексте она лежит в самом запросе — просто в разных объёмах. В поиске по хранилищу она лежит в базе, и в запрос попадает только релевантная часть. В дообучении она лежит в весах.
Отсюда все практические следствия:
- Объём. Запрос ограничен окном модели, база — нет. Поэтому профиль хранит десятки фактов, а поиск — сколько угодно.
- Удаление. Из базы запись удаляется одной операцией. Из весов — никак: только переобучение с исходной модели.
- Перенос между моделями. Профиль и база от модели не зависят; дообученное поведение привязано к конкретным весам.
- Свежесть. База обновляется мгновенно, веса — только новым прогоном обучения.
Хороший личный ассистент обычно комбинирует первые три и не использует четвёртый для фактов. Как это устроено на уровне механики хранения и извлечения — в статье про то, как работает память ИИ.
#Проверка за минуту
Четыре вопроса, которые определяют механизм в любом продукте.
- «Что ты обо мне знаешь?» Отвечает коротким связным текстом — профиль. Отвечает разрозненными фактами со ссылками на записи — поиск по хранилищу.
- Начните новый диалог и спросите про вчерашний разговор. Не помнит — была только длина контекста.
- «Забудь, что я работаю в X». Есть интерфейс удаления конкретного факта — значит, факты хранятся отдельно от модели. Ассистент говорит «хорошо» и через день снова про это вспоминает — механизма удаления нет.
- Смените модель в настройках. Память сохранилась — она хранится вне модели. Пропала — она была в весах или в контексте.
Третий пункт — самый показательный. Возможность удалить конкретный факт означает, что архитектура памяти построена честно; её отсутствие — что «память» декоративна.
#Что из этого следует на практике
Не выбирайте по слову «память» на странице продукта. Выбирайте по ответу на вопрос, что произойдёт с накопленным при смене модели. Если ответ «пропадёт» — вы привязаны к модели, а не к своим данным.
Профиль без хранилища упирается быстро. Он полезен и его стоит заполнить, но на горизонте месяцев его не хватит: в короткий текст не влезет история решений.
Длинное окно — не замена памяти. Оно решает задачу одного разговора. Кроме того, модели хуже используют середину длинного контекста, чем его начало и конец.
Дообучение не запоминает факты. Если продукт обещает «модель запомнит ваши документы» — это либо неточность, либо на самом деле там поиск по хранилищу. Ждать от весов роли базы данных не стоит.
Спрашивайте, где физически лежит хранилище. Оно у вас на диске, у вендора или у стороннего сервиса — от этого зависит и приватность, и то, что останется при закрытии продукта.
#Где интуиция подводит
«Раз он помнит имя моей собаки, у него хорошая память». Имя собаки — это профиль на двадцать строк. Проверка памяти начинается на горизонте месяцев и тысяч фактов, а не на одном факте.
«Он сказал, что запомнил». Языковая модель охотно подтверждает запоминание независимо от того, произошло ли оно. Проверяйте новым диалогом, а не словами ассистента.
«Память и приватность — разные вопросы». Один: чем больше ассистент помнит, тем важнее, где это лежит. Продукт с сильной памятью и непрозрачным хранилищем — худшая комбинация из возможных.
«Больше памяти всегда лучше». Не всегда. Память, которая тянет в ответ устаревшие или ошибочные факты, хуже её отсутствия: вы получаете уверенный ответ, опирающийся на неверную запись. Отсюда требование к любому серьёзному хранилищу — возможность видеть, что именно подтянулось, и удалить лишнее.
«Все продукты с памятью помнят одинаково давно». Нет, и это стоит проверять: часть систем хранит только последние N фактов, вытесняя старые. Как устроена память, различающая «когда это было верно» и «когда мы это узнали», — в разборе чата с двувременной памятью. Как это сделано у одного из массовых продуктов — в статье про память ChatGPT.
#Частые вопросы
#Как понять, помнит ли ассистент между сессиями?
Закройте диалог, откройте новый и спросите о том, что обсуждали. Если он не помнит — у продукта была только длина контекста, а не память. Это самая быстрая проверка, и она отсекает половину случаев.
#Почему ассистент помнит одни вещи и забывает другие?
Обычно потому, что в память попадает не всё подряд: система решает, что сохранить, по своим правилам. Плюс в том, что хранилище не забивается мусором; минус — что важное для вас может не пройти отбор. Хороший признак — возможность добавить факт вручную.
#Можно ли перенести память в другой продукт?
Зависит от механизма. Профиль и записи хранилища переносятся, если есть экспорт: это обычный текст. Дообученное поведение не переносится в принципе — оно живёт в весах конкретной модели.
#Память делает ассистента умнее?
Не умнее, а точнее в вашем контексте. Способность рассуждать задаётся моделью; память избавляет от необходимости каждый раз объяснять обстоятельства. Разница ощутима именно в повседневных задачах, а не в сложных.
#Что происходит с памятью, если сменить модель?
Правильно устроенная память переживает смену модели: она хранится отдельно, а модель получает нужные фрагменты в запросе. Если при смене модели память пропала — она была в контексте или в весах, и вы привязаны к этой модели.
#Насколько это вообще нужно?
Зависит от того, повторяете ли вы контекст. Если каждый разговор с ассистентом начинается с абзаца объяснений про ваши обстоятельства — память окупится. Если вы задаёте разовые вопросы общего характера, она не даст ничего. Общая рамка категории — в разборе что такое личный ИИ.
#Вывод
«Память» — слово, за которым стоят четыре разные технологии с разными свойствами. Отличить их можно за минуту: новый диалог, попытка удалить факт, смена модели.
Практический ориентир один. Спрашивайте не «есть ли память», а «где она хранится и могу ли я удалить из неё конкретный факт». Продукт, который отвечает на этот вопрос внятно, устроен честно; продукт, который на него не отвечает, продаёт вам профиль на двадцать строк.