Проект · Конфиденциально

Векторная база знаний по телефонным звонкам и историям переписок с клиентами

Работающий сервис: реальные звонки и переписки превращаются в канонизированную базу знаний для AI-ассистента, квалификации и обучения менеджеров.

КонтекстКонфиденциально
МасштабРаботающий сервис · заказчик не раскрывается
Период2025–н.в.
Созданный контурBitrix24 · Whisper · pyannote · Qwen2.5 · RAG · FastEmbed · vLLM · Ollama · VPS/GPU
Логика проектаСитуация→Модель→Изменение→Передача

Работающий сервис, который превращает реальные звонки и переписки с клиентами в управляемую базу знаний для AI-ассистента, первичной квалификации и обучения менеджеров.

Период2025–н.в.

Система создана, работает и используется заказчиком как сервис.

Первый ответ≈ 30 минут → 10 секунд

AI-ассистент доступен круглосуточно и отвечает в контролируемом темпе.

Передача человеку< 97 из 100

При недостаточной уверенности диалог автоматически передаётся менеджеру.

Второй результатОбучение и аттестация

Та же канонизированная база используется как тренажёр для сотрудников.

Исходная задача

Коммерческий директор внедрял квалифицирующих ботов для первичной работы с обращениями. Обычной инструкции было недостаточно: ассистенту требовались актуальные знания о продуктах, ценах, логистике и компании, а также ограничения, запрещённые темы и безопасный сценарий передачи диалога менеджеру.

Вместо искусственно составленной базы было решено извлекать знания из накопленной истории реальных коммуникаций — сообщений и телефонных разговоров.

1. Источники данных

01Переписки

Входящие и исходящие сообщения.

+
02Звонки

Аудиозаписи разговоров.

+
03Сделки

Контекст клиента и обращения.

+
04Стадии

Место коммуникации в воронке.

2. Подготовка разговоров

01Извлечение

Звонок связывается со сделкой и стадией.

→
02Транскрибация

Речь превращается в текст с временными интервалами.

→
03Диаризация

Реплики разделяются по спикерам.

→
04Роли

Отдельный этап определяет клиента и менеджера.

→
05Нормализация

Разговор готовится к смысловому анализу.

В исходном контуре обнаружились сотни гигабайт записей. Обработка построена как отдельный конвейер: аудио приводится к рабочему формату, транскрибируется, разделяется по спикерам, классифицируется по матрице услуг и только после этого поступает в общую систему знаний.

3. Как появляется проверяемое знание

01Вопросы

Кластеризация по смыслу.

→
02Ответы

Несколько вариантов внутри одного кластера.

→
03Сопоставление

Продукт, услуга, параметры и контекст.

→
04Канонизация

Статистический выбор или проверка ответственным.

→
05Граница

Недостаточные данные не становятся «истиной».

Для текстового контура были проанализированы скрипты продаж и выборка переписок, построена матрица продуктов, услуг и параметров. Система группирует похожие вопросы и ответы, но не принимает наиболее частую формулировку за правильную автоматически. Спорные варианты проходят канонизацию, а вопросы без достаточного контекста получают отдельный статус.

4. Векторные базы и RAG

База 01Продукты и услуги

Назначение, параметры, ограничения и релевантные сценарии.

База 02Компания

Подтверждённые сведения, которые допустимо использовать в ответах.

База 03Цены и условия

Коммерческий контекст и границы применимости информации.

База 04Логистика

Доставка, регионы и условия выполнения.

База 05Ограничения

Запрещённые темы и ситуации для обязательной передачи человеку.

Вопрос клиента
→
Векторный поиск
→
Релевантные фрагменты
→
LLM
→
Ответ или менеджер

Входящий вопрос векторизуется, после чего система выбирает ближайшие фрагменты из подходящих тематических баз. Модель отвечает только в пределах найденного контекста. Если уверенность ниже 97 из 100 или запрос требует дополнительных данных, диалог передаётся менеджеру.

5. Работа AI-ассистента в Bitrix24

Отдельный сервер подключается к Bitrix24 как явно обозначенный AI-ассистент. Он приветствует клиента, проводит первичную квалификацию, отклоняет нецелевые обращения и отвечает на типовые вопросы. Менеджер может подключиться к уже идущему диалогу и продолжить работу с сохранённым контекстом.

  • круглосуточная работа и множество параллельных обращений;
  • контролируемая задержка около 10 секунд для естественного темпа общения;
  • безопасная эскалация человеку при недостаточной уверенности;
  • фиксация истории в коммерческом контуре, а не в личных аккаунтах сотрудников.

6. Обучение и аттестация менеджеров

01База знаний

Проверенные вопросы и ответы.

→
02Симуляция

AI играет роль клиента.

→
03Ответ

Менеджер ведёт учебный диалог.

→
04Проверка

Ошибки и пропущенный контекст.

→
05Аттестация

Стандартизированная оценка знаний.

Новый сотрудник проходит имитацию клиентских диалогов: AI задаёт вопросы из канонизированной базы, проверяет ответ, подсвечивает ошибку и объясняет правильный подход. Это самостоятельный результат проекта, который снижает зависимость обучения от устной передачи знаний.

Технологическая архитектура

Основной анализQwen2.5-14B-Instruct

Основная локальная LLM; Qwen2.5-7B-Instruct — подтверждённая дополнительная модель, gpt-4.1-mini — резервный облачный backend.

ASR и спикерыWhisper + pyannote

whisper-large-v3-plus-diarization, pyannote/speaker-diarization-3.1 и отдельное определение ролей.

Локальная обработкаvLLM · Ollama · MLX

OpenAI-совместимый API к локальным моделям; MLX Whisper для Mac и faster-whisper для альтернативного контура.

ИнфраструктураVPS + RunPod

Дашборд, воркер, SQLite-очередь и статусы на VPS; тяжёлые LLM- и ASR-задачи вынесены на GPU.

Моя роль и право на продукт

Архитектура продукта, программный код и конвейеры принадлежат Константину Храпейчуку. Заказчик предоставил датасеты для разработки и эксплуатации сервиса. Моя роль включала бизнес- и системный анализ, проектирование контура знаний, разработку, интеграцию с Bitrix24 и организацию вычислительной инфраструктуры.

Подтверждённый результат

  • создан глубокий контур знаний на основе реальных сообщений и звонков;
  • время первого ответа сокращено примерно с 30 минут до 10 секунд;
  • обеспечена работа первичного контура 24/7;
  • квалификация и типовые ответы автоматизированы;
  • менеджер подключается к уже содержательному диалогу;
  • канонизация знаний стала управляемым процессом;
  • обучение и аттестация менеджеров стандартизированы;
  • вопросы без достаточных данных не превращаются автоматически в достоверный ответ.

Граница публикации

Разрешено только полностью обезличенное описание проекта. Название и отрасль заказчика, реальные артефакты и любые данные, позволяющие идентифицировать компанию, не публикуются. Отзыва заказчика нет, поэтому цитата от его имени не используется.

Фрагмент материалов проекта Векторная база знаний по телефонным звонкам и историям переписок с клиентами
Иллюстративный фрагмент проекта. Конфиденциальные данные и интерфейсы обезличены.

Проектные артефакты

Что остаётся после работы

01 · архитектураКарта созданного контура

Bitrix24 · Whisper · pyannote · Qwen2.5 · RAG · FastEmbed · vLLM · Ollama · VPS/GPU

02 · правилаСценарии, ответственность и исключения

Материалы, по которым команда использует систему и разбирает отклонения.

03 · проверкаКритерии приёмки и передачи

Что проверяется перед завершением этапа и как поддерживается результат.

Похожая ситуация

Разобрать, применим ли этот подход к вашей системе