AI-подсказки оператору в реальном времени (Agent Assist)

Проектируем и внедряем системы искусственного интеллекта: от прототипа до production-ready решения. Наша команда объединяет экспертизу в машинном обучении, дата-инжиниринге и MLOps, чтобы AI работал не в лаборатории, а в реальном бизнесе.
Показано 1 из 1Все 1564 услуг
AI-подсказки оператору в реальном времени (Agent Assist)
Сложный
~1-2 недели
Часто задаваемые вопросы

Направления AI-разработки

Этапы разработки AI-решения

Последние работы

  • image_website-b2b-advance_0.webp
    Разработка сайта компании B2B ADVANCE
    1360
  • image_web-applications_feedme_466_0.webp
    Разработка веб-приложения для компании FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Разработка веб-сайта для компании БЕЛФИНГРУПП
    957
  • image_ecommerce_furnoro_435_0.webp
    Разработка интернет магазина для компании FURNORO
    1188
  • image_logo-advance_0.webp
    Разработка логотипа компании B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Разработка веб-приложения для компании Enviok
    929

Оператор тратит до 30% времени на поиск ответов во время звонка. Клиент ждёт, растёт AHT, падает FCR. При ручном поиске сотрудник переключается между системами, тратит 15–30 секунд на запрос, клиент слышит паузу и теряет терпение. AI-система подсказок решает эту проблему: она слушает разговор, определяет намерение клиента и выводит релевантную информацию за доли секунды. Результат – звонки становятся короче, клиенты довольнее, а операторы работают увереннее.

Мы разрабатываем Agent Assist — AI-систему, которая слушает разговор и мгновенно выдаёт рекомендации: готовые ответы, следующий шаг по скрипту, предупреждение о негативной тональности. Результат: снижение AHT на 15–25%, рост FCR на 8–12%, повышение NPS.

Как работает AI-помощник в реальном времени?

Аудиопоток с микрофона захватывается, преобразуется в текст (STT) за 100–300 мс. Далее NLU-пайплайн определяет намерение клиента, извлекает сущности и обращается к векторной базе знаний. Сформированные подсказки отображаются в UI оператора. Всё — в реальном времени с задержкой менее 500 мс.

Call Audio → STT (Streaming) → NLU Pipeline → Suggestions Engine → Operator UI
                ↓                    ↓                ↓
          Live Transcript      Intent/Entities    Knowledge Base
          (100–300ms)                             CRM Context
                                                 Script State

Согласно документации, streaming speech recognition обеспечивает задержку менее 300 мс Google Cloud STT.

Почему Agent Assist повышает NPS?

Клиент получает быстрые и точные ответы — без переключений и музыкальных пауз. Оператор чувствует поддержку AI и реже ошибается. Наши пилоты показали: AI-ассистент лучше ручного поиска в 5 раз по скорости реакции и на 12% снижает повторные обращения. Это напрямую влияет на лояльность.

Real-time NLU pipeline

Мы используем streaming ASR (Google Speech-to-Text или Whisper) и кастомный модуль детекции вопросов и сентимента. LLM (GPT-4o или LLaMA 3) подключается для сложных сценариев. Пример реализации на Python:

import asyncio
from dataclasses import dataclass

@dataclass
class AssistSuggestion:
    type: str       # answer | next_step | warning | document | offer
    content: str
    confidence: float
    source: str = None  # knowledge base URL, CRM field, etc.

class AgentAssistProcessor:
    def __init__(self):
        self.kb = KnowledgeBase()
        self.crm = CRMConnector()
        self.llm = AsyncOpenAI()

    async def process_utterance(
        self,
        speaker: str,      # "customer" | "agent"
        text: str,
        session: dict
    ) -> list[AssistSuggestion]:
        suggestions = []

        if speaker == "customer":
            # Клиент задал вопрос — ищем ответ
            if "?" in text or await self.is_question(text):
                kb_results = await self.kb.search(text, top_k=3)
                if kb_results:
                    suggestions.append(AssistSuggestion(
                        type="answer",
                        content=kb_results[0]["answer"],
                        confidence=kb_results[0]["score"],
                        source=kb_results[0]["url"]
                    ))

            # Детектируем жалобу
            sentiment = await self.analyze_sentiment(text)
            if sentiment["label"] == "negative" and sentiment["score"] > 0.8:
                suggestions.append(AssistSuggestion(
                    type="warning",
                    content="Клиент выражает недовольство. Рекомендуется эмпатийная реакция.",
                    confidence=sentiment["score"]
                ))

        # Следующий шаг по скрипту
        next_step = await self.get_next_script_step(session)
        if next_step:
            suggestions.append(AssistSuggestion(
                type="next_step",
                content=next_step,
                confidence=1.0
            ))

        return suggestions

База знаний с семантическим поиском

Векторная база строится на embeddings модели intfloat/multilingual-e5-large. Поиск по Faiss возвращает топ-3 статьи с порогом 0.7. Код:

from sentence_transformers import SentenceTransformer
import faiss
import numpy as np

class KnowledgeBase:
    def __init__(self):
        self.encoder = SentenceTransformer("intfloat/multilingual-e5-large")
        self.index = faiss.IndexFlatIP(1024)
        self.articles = []

    def add_article(self, question: str, answer: str, url: str = None):
        embedding = self.encoder.encode(
            f"query: {question}", normalize_embeddings=True
        )
        self.index.add(embedding.reshape(1, -1))
        self.articles.append({"question": question, "answer": answer, "url": url})

    async def search(self, query: str, top_k: int = 3) -> list[dict]:
        embedding = self.encoder.encode(
            f"query: {query}", normalize_embeddings=True
        )
        scores, indices = self.index.search(embedding.reshape(1, -1), top_k)
        results = []
        for score, idx in zip(scores[0], indices[0]):
            if score > 0.7 and idx >= 0:
                results.append({**self.articles[idx], "score": float(score)})
        return results

UI для оператора (React)

Подсказки передаются по WebSocket и рендерятся как карточки.

const AgentAssistPanel: React.FC<{sessionId: string}> = ({sessionId}) => {
  const [suggestions, setSuggestions] = useState<Suggestion[]>([]);

  useEffect(() => {
    const ws = new WebSocket(`wss://assist.api/session/${sessionId}`);
    ws.onmessage = (e) => setSuggestions(JSON.parse(e.data));
    return () => ws.close();
  }, [sessionId]);

  return (
    <aside className="agent-assist-panel">
      <h3>Подсказки AI</h3>
      {suggestions.map(s => <SuggestionCard key={s.id} suggestion={s} />)}
    </aside>
  );
};

Сравнение: традиционный поиск vs Agent Assist

Критерий Ручной поиск по базе Agent Assist
Время поиска 15–30 с 300–500 мс
Точность ответа 70% (зависит от оператора) 90%+ (семантический поиск)
Нагрузка на оператора Высокая Низкая
Влияние на AHT +20% −15–25%

AI-ассистент лучше ручного поиска в 5 раз по скорости и даёт прирост FCR на 8–12%.

Типичные метрики до/после внедрения:

Метрика До внедрения После внедрения
AHT 6 мин 4.5 мин
FCR 70% 82%
CSAT 3.8 4.5

Эти цифры — средние по нашим проектам. Ваши результаты могут отличаться в зависимости от текущих процессов.

Технические детали пайплайна
  • STT: Google Cloud Speech-to-Text (streaming) или Whisper (локально).
  • NLU: кастомный классификатор на базе BERT + LLM для сложных сценариев.
  • Векторная БД: Faiss (FlatIP) или Qdrant для масштабирования.
  • UI: React + WebSocket; latency p99 < 500 мс.
  • A/B-тесты: встроенный механизм для сравнения версий.

Что входит в работу

Мы предоставляем Agent Assist под ключ. В объём входят:

  • аудит текущих процессов колл-центра;
  • разработка и обучение NLU-моделей (под ваш скрипт);
  • интеграция с CRM и базой знаний;
  • UI-панель для оператора;
  • нагрузочное тестирование (p99 latency < 500 мс);
  • A/B-тестирование (2 недели);
  • документация и обучение команды;
  • техническая поддержка на 1 месяц после внедрения.

Получите консультацию инженера по AI, чтобы оценить эффект для вашего колл-центра.

Этапы внедрения

  1. Аналитика (1–2 недели): сбор логов, замер метрик, подготовка скриптов.
  2. Проектирование (1 неделя): архитектура, выбор стека (LLM, векторная БД, STT).
  3. Разработка (3–4 недели): кастомный NLU, интеграция с KB и CRM, UI.
  4. Тестирование и A/B (2–3 недели): нагрузка, UAT, замер AHT/FCR.
  5. Деплой и обучение (1 неделя): развёртывание, обучение операторов, передача документации.

Ориентировочные сроки: базовая версия — 6–8 недель. С полной CRM-интеграцией и A/B‑тестами — до 4 месяцев. Стоимость рассчитывается индивидуально, зависит от объёма сущностей, количества скриптов и требований к латентности.

У нас за плечами 5+ лет опыта в AI/ML для колл-центров и более 30 внедрённых проектов. Гарантируем качество — каждое решение проходит ревью и нагрузочное тестирование. Закажите внедрение Agent Assist и получите консультацию — свяжитесь с нами.

Распознавание и синтез речи: ASR, TTS, клонирование голоса

Заказчик приходит с задачей: транскрибировать 40 000 часов колл-центра за неделю. Штатный облачный ASR (Google Speech-to-Text) выдаёт WER 28% на отраслевой лексике и стоит ощутимо дорого при таких объёмах. Задача — снизить WER ниже 10% и перейти на self-hosted инференс.

Типовые проблемы, с которыми приходят

WER не сходится к нужной метрике. Чаще всего виновата не архитектура, а данные: шумные аудио без нормализации уровня (-23 LUFS вместо стандарта), смешанные языки в одном канале, акцент, специфическая доменная лексика. Whisper large-v3 из коробки даёт WER 8–12% на чистом русском и проваливается до 25–35% на записях с PSTN-артефактами и узкополосным кодеком G.711.

Диаризация ломается при больше двух спикеров. pyannote/speaker-diarization-3.1 работает стабильно при 2–3 говорящих, но DER (Diarization Error Rate) растёт с 6% до 18–22% при 5+ участниках конференции. Проблема усугубляется перекрёстными репликами: по умолчанию min_duration_on=0.1 срезает короткие вставки.

Клонирование голоса — латентность или качество. XTTS v2 (Coqui) даёт натуральный голос, но при потоковой генерации stream_chunk_size=20 первый аудиочанк прилетает через 1.4–2.0 с — неприемлемо для интерактивных сценариев. StyleTTS2 и Kokoro быстрее, но требуют точной подготовки референсного аудио.

Как это решается на практике

Базовый стек для production-пайплайна:

  • ASR: openai/whisper-large-v3 или faster-whisper (CTranslate2-бэкенд, x4 скорость vs оригинал)
  • Диаризация: pyannote.audio 3.x + интеграция через whisperx для выравнивания по словам
  • TTS: XTTS v2 для качества, Edge-TTS или Silero для низкой латентности
  • Клонирование: XTTS v2 (3–6 с референсного аудио) или OpenVoice v2

Типичный пайплайн для колл-центра выглядит так: аудио из очереди Kafka → нормализация ffmpeg -af loudnorm до -23 LUFS → faster-whisper с beam_size=5, vad_filter=Truepyannote диаризация → постпроцессинг (пунктуация через deepmultilingualpunctuation) → запись в PostgreSQL с временными метками.

Кейс из практики. Финтех-компания с 12 000 звонков/день. Исходный WER на русском с банковской лексикой — 22% (Google STT). После fine-tuning whisper-medium на 200 часах размеченных записей через Hugging Face transformers + Seq2SeqTrainer с learning_rate=1e-5, warmup_steps=500 — WER упал до 7.3%. Инференс на одной A10G через faster-whisper с compute_type=float16 обрабатывает 40-минутный звонок за 55 секунд. Итоговая стоимость инференса — $0.0008/мин против $0.016/мин у облачного провайдера.

Дообучение Whisper на доменных данных

Когда общая модель не справляется, fine-tuning — первый инструмент. Минимальный датасет для заметного улучшения — 20–30 часов размеченного аудио в целевом домене. Разметку можно получить через итеративный процесс: прогнать через базовую модель → вручную исправить 10–15% ошибок → переобучить → повторить.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

Важно: при fine-tuning Whisper нужно замораживать encoder первые 1000 шагов (model.freeze_encoder()), иначе акустические признаки разъедутся раньше, чем decoder адаптируется к новой лексике.

Синтез речи: выбор под задачу

Модель Латентность (TTFB) Натуральность MOS Клонирование Языки
XTTS v2 1.2–2.0 с 4.1–4.3 Да, 3 с референса 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Да, требует адаптации en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Нет en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Нет ru, en, de, и др.
Edge-TTS ~0.4 с (cloud) 4.0 Нет 100+

Для интерактивных ботов с требованием TTFB < 300 мс — Silero или Kokoro. Для озвучки контента, где важна натуральность — XTTS v2 с потоковой отдачей через WebSocket.

Процесс работы

Начинаем с аудит-сессии: берём 2–4 часа ваших записей, прогоняем через несколько моделей, замеряем WER/CER, смотрим на распределение ошибок по типам (лексические, акустические, язык). Это занимает 1–2 дня и сразу показывает, нужен ли fine-tuning или достаточно пост-обработки.

Далее — выбор архитектуры под ваш throughput: один GPU для 1000 мин/день или кластер с балансировщиком для 100 000+ мин/день. Деплой через Docker-контейнер с FastAPI или Triton Inference Server для батчированного инференса.

Сроки зависят от сложности: базовая интеграция готовой модели — 1–2 недели. Fine-tuning с подготовкой данных и валидацией — 4–8 недель. Полная разработка голосового пайплайна (ASR + диаризация + TTS + мониторинг) — 2–4 месяца.