RAG для владельца бизнеса: почему ассистент перестаёт выдумывать

У каждого владельца, видевшего демо чат-бота, один и тот же страх, и это правильный страх: что будет, когда бот не знает, но всё равно отвечает. Языковая модель сама по себе — беглый импровизатор. Беглая импровизация о ваших ценах с чат-интерфейсом — это обязательство перед клиентом, которое вы не давали.

RAG, retrieval-augmented generation, — архитектура, которая превращает импровизатора в клерка с картотекой. Её стоит понимать на уровне владельца, потому что она меняет список вопросов, которые вы должны задавать подрядчикам.

Что на самом деле происходит с вопросом

Шаг первый: ваши знания становятся индексом. Прайсы, договоры, правила доставки, описания товаров очищаются, режутся на фрагменты и складываются так, чтобы их можно было найти по смыслу, а не только по словам. «Сколько стоит доставка в Самарканд» находит таблицу логистики, даже если в таблице нет слова «сколько».

Шаг второй: сначала поиск, потом генерация. На вопрос клиента система сперва достаёт несколько самых релевантных фрагментов. Шаг третий: связанная генерация — модель собирает ответ из этих фрагментов, а не из общего воображения. Инструкция звучит не «ответь на вопрос», а «ответь только по этому, и скажи прямо, если этого не хватает».

Какие отказы это убирает, а какие нет

Убирает: выдуманные цены, просроченные акции, поданные как действующие, уверенные ответы об услугах, которых у вас нет. Чего нет в базе, о том честная система говорит «подключу менеджера». Убирает и проблему ветерана: когда настоящие ответы живут в памяти одного сотрудника.

Не убирает: мусор в базе. Если прайс противоречит сайту, RAG добросовестно найдёт противоречие. Правильное внедрение вытаскивает такие конфликты ещё на индексации, и разовое их решение — часть ценности проекта.

И не убирает само по себе устаревание. Базе нужны хозяин и ритм обновления. В наших внедрениях вопросы без ответа всплывают еженедельно, и база растёт ровно там, где давят клиенты.

Вопросы, отличающие настоящий RAG от наклейки

Можно ли показать фрагмент-источник за любым ответом? Настоящая система трассирует каждый ответ. Каков порог уверенности и что происходит ниже него? Правильный ответ включает передачу человеку, честно сформулированную для клиента. Кто владеет базой знаний и можно ли её выгрузить? Правильный ответ: вы, и да.

Если подрядчик не отвечает на эти три вопроса, его «RAG» — это промпт с вставленным PDF, и на сотом неудобном вопросе он поведёт себя соответственно.

Почему это важнее для регулируемых и репутационно-чувствительных бизнесов

Клиника, банк, школа: здесь выдуманный ответ — не «ой», а инцидент. Обоснованные ответы с источниками, пороги уверенности и эскалация людям — то, что вообще делает ассистента внедряемым в таких местах. Та же архитектура на ваших собственных серверах делает его соответствующим закону, когда данные не должны покидать здание. Об этом отдельная статья этой серии.