RAG (Retrieval-Augmented Generation, «генерация с поиском») — схема, в которой ИИ сначала находит нужные фрагменты в документах компании и только потом пишет ответ строго по ним, со ссылкой на источник. Модель отвечает по твоему актуальному прайсу, регламентам и базе знаний, а любой ответ можно проверить за пару кликов. Ниже о том, из чего состоит такая система, где она теряет точность и что с этим делать.
Почему ИИ без доступа к документам ошибается
Языковая модель «из коробки» обучена на общих текстах. Она ничего не знает о твоих тарифах, сроках доставки в конкретный город или о том, что регламент возвратов поменяли на прошлой неделе. Если спросить её напрямую, она редко говорит «не знаю»: скорее соберёт правдоподобный ответ из того, что видела раньше. В переписке с клиентом это опасно, потому что уверенная выдумка про цену или гарантию хуже честного «уточню».
Вторая проблема — проверка. Даже если ответ верный, сотрудник не видит, откуда он взялся, и вынужден перепроверять. RAG закрывает обе проблемы: модель получает на вход найденные куски документов, отвечает только по ним и показывает, из какого документа взята каждая часть ответа.
Из чего состоит RAG: два контура
Система работает в двух режимах. Подготовка запускается один раз и потом при каждом изменении документов. Ответ выполняется на каждый вопрос сотрудника или клиента.
Шаги 1–3 — подготовка, выполняется один раз и при обновлении документов. Шаги 4–5 повторяются на каждый вопрос.
- Сбор источников. Документы, база знаний, вики, история обращений, данные из CRM: всё, на что ИИ будет опираться.
- Разбиение на фрагменты. Каждый документ делится на смысловые куски: раздел регламента, строка прайса с условиями, ответ из базы знаний.
- Индекс. Фрагменты складываются в поисковую базу, которая ищет по смыслу и понимает вопрос, заданный другими словами.
- Поиск. На вопрос система находит несколько самых подходящих фрагментов.
- Ответ. Модель получает вопрос и найденные фрагменты, пишет ответ по ним и прикладывает ссылки на документы.
Простыми словами, без архитектуры, о том, что такое RAG и зачем он бизнесу, мы рассказали в отдельной статье про RAG. Здесь речь об устройстве и точности.
Подготовка документов решает половину дела
ИИ отвечает ровно настолько хорошо, насколько хороши документы под ним. Если в папке лежат три версии прайса, поиск может найти старую. Поэтому до запуска мы вместе с клиентом проходим по источникам.
| Что проверяем | Зачем |
|---|---|
| Дубли и старые версии | Чтобы поиск не находил устаревший регламент рядом с действующим |
| Противоречия между документами | Если в двух местах разные условия, ИИ не должен выбирать сам: решает владелец документа |
| Владелец каждого источника | Кто-то отвечает за то, чтобы прайс и регламенты обновлялись вовремя |
| Права доступа | Какие документы видят менеджеры, а какие только руководители |
| Формат | Сканы без текстового слоя и таблицы-картинки поиск читает плохо, их лучше перевести в текст |
Переписывать документы под ИИ при этом не нужно. Обычно хватает убрать лишнее и договориться, кто и как часто обновляет каждый источник.
Где RAG теряет точность
Качество ответа сильнее всего зависит от поиска. Если на этом шаге нашлись не те фрагменты, даже сильная модель ответит мимо. Главные места, где это ломается:
- Размер фрагментов. Слишком крупные куски размывают смысл, слишком мелкие теряют контекст: условие оказывается в одном фрагменте, а исключение из него в другом. Режем по смысловым границам документа: разделам, пунктам, строкам таблицы.
- Точные термины. Поиск по смыслу хорошо понимает перефразированный вопрос, но может промахнуться по артикулу, коду тарифа или аббревиатуре. Поэтому его дополняют поиском по точным словам и объединяют результаты.
- Порядок найденного. Отдельный шаг пересортировывает найденные фрагменты по тому, насколько они отвечают именно на этот вопрос. Модель получает сначала самое подходящее.
- Вопросы на стыке документов. Когда ответ собирается из двух источников, например из условий доставки и прайса, поиск должен вернуть оба. Такие вопросы стоит отдельно проверить на тестах.
За точность отвечает поиск. Сильная модель на неподходящем фрагменте даёт уверенный неправильный ответ.
Как ИИ формирует ответ
Модели дают жёсткую инструкцию: отвечать только по переданным фрагментам, ссылаться на них и не достраивать недостающее. Если нужного в документах нет, правильный ответ звучит как «в документах этого нет», а в клиентском канале вопрос уходит сотруднику. Это настраивается явно и проверяется на тестовых вопросах, ответа на которые в базе заведомо нет.
Вторая часть — формат. Менеджеру удобнее короткий ответ и ссылка на пункт регламента, клиенту нужен ответ обычными словами без внутренних терминов. Для разных каналов мы делаем разные инструкции, база знаний под ними одна.
Свежесть, доступы и данные
Есть три требования, без которых система остаётся демонстрацией.
Свежесть. Индекс обновляется, когда меняются документы. Иначе ИИ будет уверенно отвечать по прошлогоднему прайсу. Кто и как часто обновляет каждый источник, договариваемся до запуска.
Доступы. Фильтр по правам встроен в поиск: сотрудник не получит через чат фрагмент документа, который ему не положено видеть. Клиент в мессенджере получает ответы только по публичной части базы.
Данные. Мы обрабатываем данные в России, по требованиям 152-ФЗ, и работаем по NDA. Какие документы и поля можно передавать модели, а какие остаются закрытыми, фиксируем до старта.
Как проверить качество до запуска
Перед запуском собираем набор реальных вопросов: из почты поддержки, из чатов, у менеджеров. Для каждого заранее известен правильный ответ и документ, где он лежит. Прогоняем вопросы через систему и смотрим три вещи: нашёлся ли нужный документ, верен ли ответ и честно ли система говорит «не нашёл», когда ответа нет.
Ошибки почти всегда сводятся к одной из двух причин: дыра или противоречие в документах либо неудачная нарезка и поиск. Первое исправляет владелец документа, второе мы. После запуска набор вопросов пополняется теми, на которых система ошиблась в работе.
Где RAG окупается, а где он лишний
| Ситуация | Нужен ли RAG |
|---|---|
| Сотни документов, продукт или условия часто меняются | Да: без поиска по документам ответы быстро устаревают |
| Поддержка отвечает на сложные вопросы по документации | Да: ИИ готовит черновик со ссылками, человек проверяет |
| Менеджеры ищут ответы в регламентах и прайсе | Да: ответ за секунды вместо поиска по папкам |
| Десяток типовых вопросов, ответы не меняются | Нет: хватит обычного сценария или ИИ-агента с короткой инструкцией |
| Документов почти нет, знания в головах у сотрудников | Сначала собрать базу знаний, потом подключать ИИ |
Пример из практики: поддержка B2B SaaS-компании отвечает по базе знаний с ИИ. Обработка запросов стала в 48 раз быстрее, 90% запросов закрываются без человека, ответы идут 24/7. Подробности в кейсе B2B SaaS.
Сколько стоит и как внедряем
Корпоративная база знаний на ИИ у нас — отдельный модуль от 50 000 ₽, комплексный проект стоит от 300 000 ₽, сопровождение от 30 000 ₽ в месяц. Начинаем с бесплатного экспресс-аудита за час: смотрим источники и задачи. План внедрения готовим ещё за 3 часа, затем пилот на твоих документах и запуск от 7 дней. Две недели сопровождения входят в проект. Подробнее о решении на странице корпоративной базы знаний на ИИ.
Частые вопросы
Чем RAG отличается от обычного ChatGPT?
Публичный чат-бот отвечает из общих знаний модели и не видит твоих документов. В RAG модель сначала получает найденные фрагменты твоей базы и отвечает только по ним, со ссылкой на источник.
Нужно ли переписывать документы под ИИ?
Нет. Обычно достаточно убрать дубли и старые версии, разрешить противоречия и назначить владельцев документов. Сканы без текста лучше перевести в текстовый вид.
Что будет, если ответа в документах нет?
Система прямо говорит, что ответа нет, а в клиентском канале передаёт вопрос сотруднику. Это настраивается и проверяется на тестовых вопросах до запуска.
Как ИИ узнает об изменениях в прайсе или регламенте?
Индекс обновляется при изменении документов. Порядок обновления и ответственного за каждый источник мы согласуем до запуска.
Где хранятся данные?
Данные обрабатываем в России по 152-ФЗ и работаем по NDA. Что можно передавать модели, а что остаётся закрытым, фиксируем до старта проекта.