AI-підказки оператору в реальному часі (Agent Assist)

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
AI-підказки оператору в реальному часі (Agent Assist)
Складний
~1-2 тижні
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1359
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    957
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1188
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    929

Оператор витрачає до 30% часу на пошук відповідей під час дзвінка. Клієнт чекає, зростає AHT, падає FCR. При ручному пошуку співробітник перемикається між системами, витрачає 15–30 секунд на запит, клієнт чує паузу і втрачає терпіння. AI-система підказок вирішує цю проблему: вона слухає розмову, визначає намір клієнта та виводить релевантну інформацію за частки секунди. Результат – дзвінки стають коротшими, клієнти задоволеніші, а оператори працюють впевненіше.

Ми розробляємо Agent Assist — AI-систему, яка слухає розмову і миттєво видає рекомендації: готові відповіді, наступний крок за скриптом, попередження про негативну тональність. Результат: зниження AHT на 15–25%, зростання FCR на 8–12%, підвищення NPS.

Як працює AI-помічник у реальному часі?

Аудіопотік з мікрофона захоплюється, перетворюється на текст (STT) за 100–300 мс. Далі NLU-пайплайн визначає намір клієнта, витягує сутності та звертається до векторної бази знань. Сформовані підказки відображаються в UI оператора. Все — у реальному часі із затримкою менше 500 мс.

Call Audio → STT (Streaming) → NLU Pipeline → Suggestions Engine → Operator UI
                ↓                    ↓                ↓
          Live Transcript      Intent/Entities    Knowledge Base
          (100–300ms)                             CRM Context
                                                 Script State

Згідно з документацією, streaming speech recognition забезпечує затримку менше 300 мс Google Cloud STT.

Чому Agent Assist підвищує NPS?

Клієнт отримує швидкі та точні відповіді — без перемикань і музичних пауз. Оператор відчуває підтримку AI і рідше помиляється. Наші пілоти показали: AI-асистент кращий за ручний пошук у 5 разів за швидкістю реакції та на 12% знижує повторні звернення. Це безпосередньо впливає на лояльність.

Real-time NLU pipeline

Ми використовуємо streaming ASR (Google Speech-to-Text або Whisper) та кастомний модуль детекції питань і сентименту. LLM (GPT-4o або LLaMA 3) підключається для складних сценаріїв. Приклад реалізації на Python:

import asyncio
from dataclasses import dataclass

@dataclass
class AssistSuggestion:
    type: str       # answer | next_step | warning | document | offer
    content: str
    confidence: float
    source: str = None  # knowledge base URL, CRM field, etc.

class AgentAssistProcessor:
    def __init__(self):
        self.kb = KnowledgeBase()
        self.crm = CRMConnector()
        self.llm = AsyncOpenAI()

    async def process_utterance(
        self,
        speaker: str,      # "customer" | "agent"
        text: str,
        session: dict
    ) -> list[AssistSuggestion]:
        suggestions = []

        if speaker == "customer":
            # Клієнт поставив запитання — шукаємо відповідь
            if "?" in text or await self.is_question(text):
                kb_results = await self.kb.search(text, top_k=3)
                if kb_results:
                    suggestions.append(AssistSuggestion(
                        type="answer",
                        content=kb_results[0]["answer"],
                        confidence=kb_results[0]["score"],
                        source=kb_results[0]["url"]
                    ))

            # Детектуємо скаргу
            sentiment = await self.analyze_sentiment(text)
            if sentiment["label"] == "negative" and sentiment["score"] > 0.8:
                suggestions.append(AssistSuggestion(
                    type="warning",
                    content="Клієнт висловлює незадоволення. Рекомендується емпатійна реакція.",
                    confidence=sentiment["score"]
                ))

        # Наступний крок за скриптом
        next_step = await self.get_next_script_step(session)
        if next_step:
            suggestions.append(AssistSuggestion(
                type="next_step",
                content=next_step,
                confidence=1.0
            ))

        return suggestions

База знань із семантичним пошуком

Векторна база будується на embeddings моделі intfloat/multilingual-e5-large. Пошук по Faiss повертає топ-3 статті з порогом 0.7. Код:

from sentence_transformers import SentenceTransformer
import faiss
import numpy as np

class KnowledgeBase:
    def __init__(self):
        self.encoder = SentenceTransformer("intfloat/multilingual-e5-large")
        self.index = faiss.IndexFlatIP(1024)
        self.articles = []

    def add_article(self, question: str, answer: str, url: str = None):
        embedding = self.encoder.encode(
            f"query: {question}", normalize_embeddings=True
        )
        self.index.add(embedding.reshape(1, -1))
        self.articles.append({"question": question, "answer": answer, "url": url})

    async def search(self, query: str, top_k: int = 3) -> list[dict]:
        embedding = self.encoder.encode(
            f"query: {query}", normalize_embeddings=True
        )
        scores, indices = self.index.search(embedding.reshape(1, -1), top_k)
        results = []
        for score, idx in zip(scores[0], indices[0]):
            if score > 0.7 and idx >= 0:
                results.append({**self.articles[idx], "score": float(score)})
        return results

UI для оператора (React)

Підказки передаються через WebSocket і рендеряться як картки.

const AgentAssistPanel: React.FC<{sessionId: string}> = ({sessionId}) => {
  const [suggestions, setSuggestions] = useState<Suggestion[]>([]);

  useEffect(() => {
    const ws = new WebSocket(`wss://assist.api/session/${sessionId}`);
    ws.onmessage = (e) => setSuggestions(JSON.parse(e.data));
    return () => ws.close();
  }, [sessionId]);

  return (
    <aside className="agent-assist-panel">
      <h3>Підказки AI</h3>
      {suggestions.map(s => <SuggestionCard key={s.id} suggestion={s} />)}
    </aside>
  );
};

Порівняння: традиційний пошук vs Agent Assist

Критерій Ручний пошук по базі Agent Assist
Час пошуку 15–30 с 300–500 мс
Точність відповіді 70% (залежить від оператора) 90%+ (семантичний пошук)
Навантаження на оператора Високе Низьке
Вплив на AHT +20% −15–25%

AI-асистент кращий за ручний пошук у 5 разів за швидкістю та дає приріст FCR на 8–12%.

Типові метрики до/після впровадження:

Метрика До впровадження Після впровадження
AHT 6 хв 4.5 хв
FCR 70% 82%
CSAT 3.8 4.5

Ці цифри — середні за нашими проектами. Ваші результати можуть відрізнятися залежно від поточних процесів.

Технічні деталі пайплайну
  • STT: Google Cloud Speech-to-Text (streaming) або Whisper (локально).
  • NLU: кастомний класифікатор на базі BERT + LLM для складних сценаріїв.
  • Векторна БД: Faiss (FlatIP) або Qdrant для масштабування.
  • UI: React + WebSocket; latency p99 < 500 мс.
  • A/B-тести: вбудований механізм для порівняння версій.

Що входить у роботу

Ми надаємо Agent Assist під ключ. В обсяг входять:

  • аудит поточних процесів кол-центру;
  • розробка та навчання NLU-моделей (під ваш скрипт);
  • інтеграція з CRM та базою знань;
  • UI-панель для оператора;
  • навантажувальне тестування (p99 latency < 500 мс);
  • A/B-тестування (2 тижні);
  • документація та навчання команди;
  • технічна підтримка на 1 місяць після впровадження.

Отримайте консультацію інженера з AI, щоб оцінити ефект для вашого кол-центру.

Етапи впровадження

  1. Аналітика (1–2 тижні): збір логів, замір метрик, підготовка скриптів.
  2. Проектування (1 тиждень): архітектура, вибір стеку (LLM, векторна БД, STT).
  3. Розробка (3–4 тижні): кастомний NLU, інтеграція з KB та CRM, UI.
  4. Тестування та A/B (2–3 тижні): навантаження, UAT, замір AHT/FCR.
  5. Деплой та навчання (1 тиждень): розгортання, навчання операторів, передача документації.

Орієнтовні терміни: базова версія — 6–8 тижнів. З повною CRM-інтеграцією та A/B-тестами — до 4 місяців. Вартість розраховується індивідуально, залежить від обсягу сутностей, кількості скриптів та вимог до латентності.

У нас за плечима 5+ років досвіду в AI/ML для кол-центрів та більше 30 впроваджених проектів. Гарантуємо якість — кожне рішення проходить рев'ю та навантажувальне тестування. Замовте впровадження Agent Assist та отримайте консультацію — зв'яжіться з нами.

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.