Консолидация памяти ИИ: зачем ассистенту режим сна

Режим сна нужен памяти ассистента по той же причине, по какой он нужен человеку: чтобы навести порядок в накопленном за день. Память, в которую только дописывают, зарастает дублями, устаревшими фактами и десятком версий одной и той же договорённости. Консолидация это фоновая переработка: пока Вы не задаёте вопросов, ассистент заново перебирает записи, сворачивает повторы, помечает противоречия и поднимает важное в верхние слои. Исследователи называют этот приём sleep-time compute: модель обрабатывает контекст заранее, в простое, до того как поступил вопрос (Lin et al., 2025). Результат Вы видите утром: ответы приходят быстрее и опираются на упорядоченную память, а не на сырой лог вчерашнего дня. Без такой переработки память со временем тяжелеет и мутнеет, а ассистент отвечает медленнее и менее точно.

Почему память, в которую только пишут, портится

Представьте рабочий стол, на который Вы весь день кладёте бумаги и ничего не убираете. К вечеру нужный документ лежит где-то в стопке, но найти его быстро уже нельзя. С памятью ассистента происходит то же самое. За день в неё падает всё: реплики из переписки, правки к договорённостям, новые факты о клиентах, случайные уточнения. Каждая запись легла отдельно, и половина из них противоречит другой половине.

Проблем тут три, и они складываются. Дубли: одна встреча упомянута пять раз в пяти разговорах. Устаревшее: цена, которую Вы назвали в понедельник и переписали в среду, лежит в базе в обеих версиях. Противоречия: «клиент согласовал» и «клиент попросил паузу» соседствуют без пометки, какое из двух свежее. Когда ассистент ищет ответ, он вытаскивает всё это вперемешку, и качество ответа падает ровно настолько, насколько запутана память.

Дописывать факты бесконечно нельзя ещё и потому, что их становится всё больше. Чем дольше Вы работаете с ассистентом, тем тяжелее его память, и тем сильнее нужен кто-то, кто наведёт в ней порядок. Человек делает это во сне. У ассистента для этого есть отдельный ночной проход.

Что такое sleep-time compute

Обычная языковая модель думает только в тот момент, когда Вы задали вопрос. Она получает контекст, разбирает его на месте и отвечает. Всё тяжёлое осмысление происходит, пока Вы ждёте ответ, и за него же Вы платите вычислениями и временем.

Работа «Sleep-time Compute» (Lin et al., 2025) предлагает сдвинуть эту работу во времени. Если контекст известен заранее, модель может обдумать его в простое, до того как поступит вопрос. Авторы описывают это так: рассуждение в режиме сна превращает «сырой контекст» в «осмысленный», и тогда в момент запроса думать нужно меньше. Проверяли на математических наборах Stateful GSM-Symbolic и Stateful AIME. Результат конкретный: чтобы достичь той же точности, в момент запроса требовалось примерно впятеро меньше вычислений. Когда исследователи, наоборот, наращивали работу во сне, точность росла до 13 процентов на первом наборе и до 18 процентов на втором.

Есть и второй выигрыш, важный для рабочего ассистента. Один и тот же контекст обычно порождает не один вопрос, а много: про одного клиента Вы за неделю спросите десять раз. Разобрав этот контекст ночью один раз, ассистент делит затраченную работу на все последующие вопросы. В экспериментах с несколькими запросами к общему контексту средняя стоимость одного вопроса падала примерно в два с половиной раза (Lin et al., 2025). Проще говоря: тяжёлый разбор делается однажды в тишине, а потом окупается на каждом Вашем вопросе.

Инженеры Letta, отделившие эту идею в отдельный режим, формулируют роли так: основной агент общается с Вами и работает на быстрой модели, а фоновый агент занимается памятью, не спеша, на более сильной модели (Letta, 2025). Так формирование памяти даёт, по их словам, чистые и аккуратные воспоминания вместо обрывочных заметок на бегу.

Как это устроено у Хермес

У Хермес этот принцип живёт как ночной режим «Сон и консолидация». Пока Вы отдыхаете, память пересобирается. Накопленное за день проходит по конвейеру: свежие записи сначала просто лежат, потом получают оценку важности, потом сворачиваются в устойчивые факты, а лишнее уходит в архив. Дубли сводятся в одну запись, противоречия помечаются, важное поднимается в верхние, быстрые слои памяти, редкое опускается в холодный архив, откуда его всё равно можно достать вопросом.

Про слои памяти мы подробно рассказываем в обзоре темы память ИИ-ассистента: горячий слой для того, что нужно сейчас, тёплый для текущих недель, холодный для архива. Консолидация это как раз механизм, который решает, чему в каком слое лежать, и делает это ночью, чтобы не отнимать скорость у дневных ответов.

Для Вас вся эта механика невидима, и так и задумано. Вы не запускаете ночной проход руками и не настраиваете его. Виден только результат: утром ассистент отвечает быстрее и точнее, потому что отвечает из прибранной памяти. Спросите о клиенте, с которым работали в прошлом квартале, и он поднимет уже сведённую картину, а не пять разрозненных упоминаний, которые ещё надо между собой согласовать.

Что это меняет для Вас

Разница между ассистентом с консолидацией и без неё видна не в первый день, а через месяцы. Без ночной переработки память копится как попало и постепенно превращается в свалку: ответы замедляются, в них всплывают устаревшие факты, ассистент путается в том, что Вы уже переиграли. С консолидацией память остаётся ясной ровно настолько, насколько ясно Вы вели дела, потому что каждую ночь она сама себя причёсывает.

Здесь же кроется скрытая экономия. Каждый факт, который ассистент подкладывает в ответ, это оплаченные токены. Прибранная память подкладывает меньше мусора и меньше дублей, а значит, ответы обходятся дешевле. Ночная переработка работает на ту же цель, что и sleep-time compute в исследовании: перенести тяжёлую часть на время простоя, чтобы днём было быстрее и дешевле.

Всё это опирается на одно условие: у ассистента вообще должна быть долговременная память, а не только контекстное окно текущего разговора. Консолидировать нечего, если ничего не хранится между сессиями. Как устроена такая память и почему она лежит на Вашем сервере, а не в чужом облаке, мы разбираем на странице продукта. Ночной режим сна это надстройка над памятью, которая превращает накопление в порядок.