RAG простыми словами: как ИИ подключает знания к ответу

RAG простыми словами: это приём, при котором ИИ ассистент перед ответом заглядывает во внешнюю базу знаний, находит там нужные факты и подкладывает их модели вместе с Вашим вопросом. Сокращение расшифровывается как retrieval augmented generation: генерация, подкреплённая поиском. Нужен этот приём потому, что языковая модель знает только то, что попало в её обучение, и ничего не хранит между разговорами. Ваши клиенты, цены и договорённости ей неоткуда взять. RAG решает задачу без переобучения модели: знания лежат в базе рядом, а в момент вопроса система достаёт подходящие фрагменты и даёт модели прочитать их перед ответом. Модель не вспоминает факт, она подглядывает в шпаргалку, собранную за долю секунды. Со стороны это неотличимо от памяти, и именно на этом механизме держатся ассистенты, которые «помнят» Ваше дело. Ниже разберём его на бытовой аналогии и по шагам: что происходит между Вашим вопросом и ответом.

Аналогия: врач и медицинская карта

Представьте приём у врача. Хороший терапевт не помнит наизусть анализы каждого пациента, и никто от него этого не ждёт. Прежде чем ответить на Ваш вопрос, он открывает карту: последние результаты, прошлые назначения, жалобы полугодовой давности. Ответ звучит уверенно и по делу не потому, что врач всё держит в голове, а потому, что под рукой правильно устроенный архив и есть привычка в него заглядывать.

RAG устраивает языковой модели ровно такой приём. Роль врача играет модель: она умеет рассуждать и формулировать. Роль карты играет база знаний: документы, переписка, заметки, всё, что в неё положили. А роль регистратуры, которая мгновенно приносит нужную папку, исполняет поиск по смыслу.

Так отвечает и Хермес: перед ответом она подглядывает в Вашу память, базу, которая хранится на Вашем собственном сервере в РФ, и берёт оттуда факты о клиентах и договорённостях. Снаружи это выглядит как ассистент, который всё помнит. Внутри это модель, которой вовремя подали правильную страницу карты.

Четыре шага между вопросом и ответом

Механизм проще, чем кажется по названию. Всё происходит за долю секунды, но раскладывается на четыре понятных шага.

Шаг первый: Ваш вопрос превращается в поисковый запрос. Система переводит фразу в числовой отпечаток смысла, эмбеддинг. Это нужно, чтобы искать не совпадение слов, а совпадение смысла: Вы редко спрашиваете теми же словами, которыми говорили месяц назад.

Шаг второй: поиск по базе. Система сравнивает отпечаток вопроса с отпечатками всех записей и отбирает несколько самых близких по смыслу. Спросите «на чём мы остановились с Натальей по оплате?», и поиск поднимет запись «Наталья попросила разбить оплату курса на три части», хотя общих слов в двух фразах почти нет.

Шаг третий: найденные фрагменты подкладываются модели. Вместе с Вашим вопросом она получает подборку выдержек из базы, ту самую шпаргалку, и читает её прямо в момент ответа, как врач читает карту на приёме.

Шаг четвёртый: модель пишет ответ, опираясь на прочитанное. Вместо общих рассуждений о рассрочках Вы получаете конкретное «Наталья ждёт график из трёх платежей, первый обсуждали на этой неделе».

Сам подход описали Льюис и соавторы (Lewis et al., 2020): они подключили к языковой модели внешний индекс статей Википедии и показали, что ответы с таким поиском получаются конкретнее и фактически точнее, чем у той же модели, отвечающей только по выученному. Как этот механизм встроен в общую архитектуру, от слоёв хранения до ночной консолидации, мы разбираем в обзоре темы память ИИ-ассистента.

Какие проблемы решает шпаргалка

Первая проблема: знания модели заморожены. Обучение закончилось на конкретной дате, и всё, что случилось после, для модели не существует. База знаний, наоборот, живая: новый факт положили сегодня, и уже со следующего вопроса он доступен.

Вторая проблема: модель не знает Вашего дела. Переписка с клиентами, цены, условия и внутренние договорённости в обучение чужих моделей не попадали и попадать не должны. RAG подаёт их модели ровно в тот момент, когда они нужны, и только те фрагменты, которые относятся к вопросу.

Третья проблема: выдумки. Когда модель не знает ответа, она нередко его сочиняет, причём правдоподобно и уверенно. Шпаргалка с реальными фактами сужает пространство для фантазии: модели есть на что опереться, и опора видна в ответе.

Обучающий гайд Pinecone по RAG сводит всё это к одной мысли: подход даёт модели доступ к знаниям, которых не было в её обучении, свежим и частным, без переобучения самой модели. Дообучение под каждый новый факт стоило бы дорого и занимало бы дни. Запись в базу занимает секунды.

Чего RAG не делает

Модель ничего не запоминает. Шпаргалка собирается заново под каждый вопрос и исчезает вместе с ответом, а сама модель после разговора остаётся ровно той же, что и до него. Это стоит держать в голове как формулу: модель не помнит факт, она подглядывает в шпаргалку перед ответом. «Память» ассистента живёт не в модели, а в базе рядом с ней.

RAG не улучшает саму модель. Он не добавляет ей ума, стиля или новых навыков: этим занимается дообучение, отдельная и куда более тяжёлая процедура. RAG меняет только то, что модель видит перед ответом.

И ещё одно ограничение, самое практичное: качество ответа упирается в качество базы. Если в базе лежат дубли, устаревшие цены и три версии одной договорённости, шпаргалка получится путаной, а ответ уверенным и неверным. Поэтому зрелые системы памяти не ограничиваются поиском: они наводят в базе порядок, сводят дубли и помечают противоречия.

Главный вопрос к шпаргалке: где она лежит

Из всей схемы следует вывод, который редко проговаривают в технических статьях. Ценность ассистента с RAG со временем определяется не моделью, а базой. Модель сменная деталь: сегодня одна, через год другая, и шпаргалку для неё соберут точно так же. А вот база накапливается месяцами и заменить её нечем: это и есть Ваш накопленный контекст.

Значит, главный вопрос к любому ассистенту со «знанием Вашего дела» звучит прозаично: на чьём сервере лежит база, из которой собирается шпаргалка? Если у провайдера, то при смене сервиса Вы начинаете с нуля. Если у Вас, то забираете базу целиком вместе с сервером. Как устроен ассистент с памятью на Вашем собственном сервере, мы описали отдельно: там же о том, что происходит с базой, если Вы решите уйти.

RAG звучит как инженерный термин, но за ним простая мысль. Ассистент становится полезным не тогда, когда модель много знает о мире, а тогда, когда рядом с ней лежит хорошо устроенная база о Вашем деле. Модель будет меняться, шпаргалка останется. Вопрос лишь в том, в чьих она руках.