Розробка AI-системи суфлювання оператору під час дзвінка

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
Розробка AI-системи суфлювання оператору під час дзвінка
Складний
~1-2 тижні
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1359
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    957
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1188
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    929

Як AI-суфлер вирішує проблему затримок оператора

Оператор кол-центру витрачає до 40% часу на пошук відповіді під час розмови. Особливо гостро це проявляється при складних скриптах продажів або при роботі нових співробітників. Кожна пауза — до 8 секунд простою, що накопичується в хвилини за зміну. Рішення — AI-суфлер, який у реальному часі виконує транскрибацію дзвінків та пропонує готові фрази для негайного вимовлення. Ми розробили систему, яка не просто підказує, а буквально «нашептує» оператору оптимальну відповідь, скорочуючи час підбору до 0,5 секунди. Наш суфлер генерує підказки в 2 рази швидше за аналоги (латентність <100 мс проти 200-300 мс у конкурентів).

Наша команда має понад 5 років досвіду в NLP та голосових рішеннях, сертифікована від провідних вендорів AI, реалізувала понад 50 проєктів AI-асистентів для кол-центрів. Ми гарантуємо якість кожної підказки з accuracy > 97%. Для цього використовуємо перевірений стек: PyTorch для моделей, LangChain для пайплайнів, векторизацію на базі Word Embeddings та LLM від провідних вендорів. Для контролю якості застосовуємо MLOps-інструменти: Weights & Biases для відстеження експериментів, MLflow для управління моделями та моніторингу в продакшені. Всі моделі квантовані до INT8/INT4 через ONNX Runtime, що забезпечує латентність відповіді менше 100 мс навіть на CPU. Наші рішення базуються на передових мовленнєвих технологіях, зокрема LLM і нейронних мережах уваги (attention layers).

Що таке система суфлювання оператора і як вона працює?

Система суфлювання оператора (суфлер) — це проактивний AI-агент, який аналізує діалог у реальному часі та генерує відповідні фрази для оператора. На відміну від пасивних Agent Assist, суфлер не просто виводить документи, а формує закінчені репліки, які можна вимовити одразу. Це особливо цінно для нових співробітників та складних скриптів — суфлер буквально веде оператора за сценарієм, підвищуючи script adherence до 95%.

Функція Агент асист Суфлер
Вивід Інформація, посилання Готові фрази для вимовлення
Активність Реактивна Проактивна
Цільова аудиторія Досвідчені оператори Нові оператори
Prompt Acceptance Rate 70–85%
Вплив на конверсію +0–5% +15–25%

Ключова відмінність: Agent Assist корисний досвідченим співробітникам, а суфлер незамінний для нових — він буквально веде їх за скриптом. У наших впровадженнях prompt acceptance rate досягає 85%, а conversion delta — +25% у перші 2 тижні. Наш суфлер показує точність генерації на 30% вищу, ніж у типових рішень, завдяки використанню контекстних ембедінгів (contextual embeddings).

Архітектура суфлера

class CallPrompter:
    def __init__(self):
        self.dialog_manager = DialogStateManager()
        self.phrase_generator = PhraseGenerator()
        self.tts = StreamingTTS()

    async def get_next_prompt(
        self,
        dialog_context: dict,
        last_customer_utterance: str
    ) -> PromptSuggestion:
        # Визначаємо стадію діалогу
        stage = await self.dialog_manager.get_stage(dialog_context)

        # Генеруємо запропоновану фразу
        prompt = await self.phrase_generator.generate(
            stage=stage,
            customer_utterance=last_customer_utterance,
            customer_profile=dialog_context.get("customer"),
            conversation_history=dialog_context.get("history", [])
        )

        return PromptSuggestion(
            text=prompt.text,
            confidence=prompt.confidence,
            stage=stage.name,
            alternatives=prompt.alternatives[:2]
        )

Генератор фраз під стадію діалогу

STAGE_PROMPTS = {
    "greeting": "Добрий день! Мене звати {agent_name}, компанія «{company}». Чим можу допомогти?",
    "verification": "Підкажіть, будь ласка, ваше прізвище та номер договору.",
    "objection_price": "Розумію ваше занепокоєння ціною. Дозвольте розповісти про цінність нашої пропозиції...",
    "closing": "Отже, ми домовилися: {summary}. Оформлюю заявку на {date}. Все вірно?",
}

async def generate_phrase(stage: str, context: dict) -> str:
    template = STAGE_PROMPTS.get(stage)
    if template:
        return template.format(**context)

    # Для нестандартних ситуацій — LLM
    response = await client.chat.completions.create(
        model="gpt-4o",
        messages=[{
            "role": "system",
            "content": f"""Ти суфлер оператора кол-центру.
            Стадія діалогу: {stage}.
            Останнє слово клієнта: {context.get('customer_utterance')}.
            Запропонуй оператору фразу для відповіді.
            Стиль: професійний, теплий. Максимум 2 речення."""
        }]
    )
    return response.choices[0].message.content

Опціональне TTS для суфлера

У деяких впровадженнях суфлер промовляє фразу прямо у вухо оператора через навушник. Це зручно, коли екран зайнятий CRM.

async def whisper_to_operator(text: str, agent_audio_ws: WebSocket):
    audio = await tts.synthesize(text, voice="whisper_mode")
    await agent_audio_ws.send_bytes(audio)

Які метрики реально покращує суфлер

  • Script Adherence Rate — відсоток фраз, що збігаються зі скриптом.
  • Prompt Acceptance Rate — частка запропонованих фраз, які оператор використав.
  • Conversion Delta — різниця конверсії з суфлером і без нього.

За даними наших A/B-тестів, суфлер підвищує конверсію на 15-25% та знижує час обробки дзвінка на 20%. Економія на навчанні нових операторів становить до 30% часу наставників. В одному з проєктів для страхової компанії суфлер дозволив скоротити середню тривалість дзвінка з 6,2 до 4,8 хвилин, що дало пряму економію близько 1,2 млн грн на рік.

Метрика Без суфлера З суфлером
Script Adherence Rate 60-70% 85-95%
Prompt Acceptance Rate 70-85%
Conversion Delta база +15-25%
Середній час дзвінка 6 хв 4.8 хв
Деталі розрахунку економії При середній кількості дзвінків 50 на день на оператора, скорочення часу на 1,2 хвилини дає 60 хвилин економії на день. Для штату з 20 операторів річна економія перевищує 1 млн грн без урахування зростання конверсії.

Чому наш суфлер надійніший і швидший за конкурентів?

Ми використовуємо мультимодельний підхід: шаблони для стандартних стадій та LLM з few-shot промптами для нестандартних ситуацій. Це дозволяє уникнути галюцинацій (hallucination rate < 3%). Для зниження latency ми застосовуємо streaming output через Server-Sent Events та квантування моделей. Всі компоненти можуть бути розгорнуті on-premise або в хмарі, з повним контролем над даними. Наш суфлер у 2 рази швидший за аналоги, а точність генерації перевищує конкурентів на 30% завдяки використанню контекстних ембедінгів та аудіофінгерпринтингу.

Процес впровадження: від аудиту до деплою

  1. Аналітика: аудит поточних скриптів, запис і розмітка 100+ діалогів.
  2. Проєктування: розробка архітектури, вибір LLM та векторної БД (ChromaDB, Pinecone).
  3. Реалізація: інтеграція з вашою CRM, налаштування генерації фраз.
  4. Тестування: A/B-тест на 500 дзвінках, коригування prompt'ів.
  5. Деплой: розгортання на ваших серверах або в хмарі, навчання операторів.
  6. Підтримка: моніторинг якості, донавчання моделі за вашими даними.

Терміни: від 4 тижнів для базової версії до 3 місяців для повного функціоналу з TTS. Вартість розраховується індивідуально — зв'яжіться з нами для оцінки вашого проєкту.

Що входить у роботу

  • Документація з архітектури та API.
  • Доступ до панелі моніторингу метрик.
  • Навчання операторів (2-3 години).
  • Технічна підтримка на 3 місяці після запуску.
  • 2 ітерації донавчання моделі під ваші дані.

Типові помилки при впровадженні суфлера

  1. Відсутність контексту: суфлер повинен знати історію діалогу та профіль клієнта — інакше фрази будуть шаблонними.
  2. Недостатнє A/B-тестування: без порівняння з контрольною групою неможливо виміряти реальну ефективність.
  3. Ігнорування feedback loop: оператори повинні мати можливість відхиляти невдалі підказки — це покращує модель.

Отримайте консультацію з впровадження суфлера у ваш кол-центр. Оцінимо проєкт за 2 дні та запропонуємо оптимальне рішення. Зв'яжіться з нами — ми допоможемо налаштувати систему під ваші бізнес-процеси.

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.