Розробка AI-IVR (інтелектуальне голосове меню)

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
Розробка AI-IVR (інтелектуальне голосове меню)
Середній
~1-2 тижні
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1360
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    957
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1188
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    929

Ми часто бачимо, як клієнти втрачають терпіння, пробиваючись через 4–7 рівнів тонального меню. «Натисніть 1, щоб... натисніть 2...» — такий DTMF-IVR дратує та відсіює до 40% дзвінків. Дослідження показують: 60% користувачів надають перевагу мовленнєвому інтерфейсу. Наш підхід — AI-IVR: система розуміє вільну мову, визначає намір за 1–2 запитання і маршрутизує дзвінок без кнопок. Ми впроваджуємо такі рішення останні 5 років, і замовники відзначають зниження часу обробки дзвінка на 30–50% та зростання задоволеності на 20 процентних пунктів. Це не просто заміна кнопок — це перехід від жорсткого дерева сценаріїв до адаптивного діалогу на основі LLM.

Проблеми, які вирішує AI-IVR

Традиційне тональне меню (DTMF) не справляється з нестандартними запитами, складно оновлюється та вимагає запам'ятовування послідовностей. AI-IVR на базі NLP (Natural Language Processing) та ASR замінює жорстке дерево сценаріїв гнучким діалогом. Клієнт каже: «У мене проблема з оплатою» — система сама розуміє, що потрібно в billing, і переводить.

Порівняння DTMF-IVR та AI-IVR

Параметр DTMF-IVR AI-IVR
Навігація 4–7 рівнів, кнопки 1–2 запитання, мова
Покриття сценаріїв Обмежено деревом Необмежено (LLM)
Оновлення Складно, потребує розробки Промпт-файл
Для немобільних користувачів Проблемно Нормально
Вартість розробки Низька Середня (окупається за 3–6 міс.)

Важливо: AI-IVR не вимагає повної заміни інфраструктури — ми інтегруємо його поверх існуючої АТС через SIP або API.

Як AI-IVR розуміє намір клієнта?

В основі — LLM (Large Language Model), наприклад GPT-4o або LLaMA 3, яка отримує розшифровку мовлення (ASR) і визначає намір. Ми використовуємо few-shot prompting: у промпт передаємо список доступних напрямків і приклади фраз. Модель повертає JSON з destination та confidence. Якщо впевненість нижча за 0.75 — система ставить уточнювальне запитання. Цей підхід обробляє 95% запитів без залучення оператора.

class AIIVR:
    def __init__(self, routing_config: dict):
        self.destinations = routing_config["destinations"]
        self.llm = AsyncOpenAI()

    async def handle_call(self, call: IncomingCall) -> str:
        """Обробляємо вхідний дзвінок — повертаємо destination"""
        # Привітання
        await call.say(
            "Добрий день! Вас вітає {company}. Як я можу вам допомогти?"
        )

        # Слухаємо намір (до 8 секунд)
        user_input = await call.listen(timeout_sec=8, silence_threshold_ms=800)

        if not user_input:
            return await self.handle_silence(call)

        # Розпізнаємо намір та маршрутизуємо
        route = await self.recognize_intent(user_input)

        if route["confidence"] >= 0.75:
            return await self.route_call(call, route["destination"])
        else:
            return await self.clarify_intent(call, user_input)

    async def recognize_intent(self, user_input: str) -> dict:
        destinations_description = "\n".join(
            f"- {d['id']}: {d['description']}"
            for d in self.destinations
        )

        response = await self.llm.chat.completions.create(
            model="gpt-4o-mini",
            messages=[{
                "role": "system",
                "content": f"""Визнач куди направити дзвінок.
                Доступні напрямки:
                {destinations_description}
                Поверни JSON: {{"destination": "id", "confidence": 0.0-1.0}}"""
            }, {"role": "user", "content": user_input}],
            response_format={"type": "json_object"}
        )
        return json.loads(response.choices[0].message.content)

    async def route_call(self, call: IncomingCall, destination: str) -> str:
        dest = next(d for d in self.destinations if d["id"] == destination)

        # Підтвердження маршрутизації
        await call.say(dest.get("routing_message",
                                 f"Переводжу вас у {dest['name']}..."))

        if dest["type"] == "queue":
            await call.transfer_to_queue(dest["queue_id"])
        elif dest["type"] == "extension":
            await call.transfer(dest["extension"])
        elif dest["type"] == "bot":
            await call.transfer_to_bot(dest["bot_id"])

        return destination

Конфігурація напрямків (YAML/JSON)

Шляхи маршрутизації задаються в простому конфігу — додати новий напрямок можна без передеплою.

destinations:
  - id: technical_support
    name: "Технічна підтримка"
    description: "Проблеми з сервісом, помилки, не працює"
    type: queue
    queue_id: tech_support_q
    routing_message: "З'єдную з технічною підтримкою. Зачекайте, будь ласка."

  - id: billing
    name: "Оплата та рахунки"
    description: "Питання оплати, рахунки, заборгованості, тарифи"
    type: bot
    bot_id: billing_bot

  - id: sales
    name: "Продажі та нові підключення"
    description: "Підключити послугу, новий договір, тарифи"
    type: queue
    queue_id: sales_q

Які бізнес-показники покращує AI-IVR?

За даними Gartner, впровадження інтелектуального IVR знижує навантаження на першу лінію підтримки на 40–60%. AI-IVR обробляє до 80% дзвінків без участі оператора — це в 3 рази більше, ніж DTMF. Середній час розмови скорочується вдвічі. Економія на операторах досягає 50% при масштабуванні. За рахунок зниження навантаження ви можете перерозподілити персонал на складніші завдання.

Як AI-IVR інтегрується з існуючою АТС?

Інтеграція виконується через SIP trunk або REST API. Ми підключаємось до Asterisk, 1С-Бітрікс24, Cisco, Genesys та інших без повної заміни інфраструктури. Система працює як проміжний шар: приймає дзвінок, обробляє діалог і передає управління назад до АТС. Для on-premise використовуємо vLLM з квантизацією INT4 — це знижує витрати на GPU до 4 разів порівняно з FP16.

Чому latency критична для AI-IVR?

Якщо ASR + LLM займає більше 3 секунд, користувач кидає трубку. Ми використовуємо streaming ASR (наприклад, Whisper у реальному часі) та кешування інтентів для частих запитів. Типова latency p99 — 1.5–2 секунди. Для зниження затримок застосовуємо квантизацію моделей та інференс на Triton Inference Server.

Процес роботи

Ми впроваджуємо AI-IVR у кілька етапів:

Етап Тривалість
Аналіз сценаріїв та збір даних 1–2 тижні
Проектування діалогів (prompt engineering) 1 тиждень
Розробка та інтеграція з АТС 2–3 тижні
Тестування (A/B, навантажувальне) 1–2 тижні
Деплой та моніторинг 1 тиждень

Загальний термін для типового проекту — 4–6 тижнів. Для пілота з 3–5 напрямками — 2–3 тижні.

Що входить у роботу

  • Документація: архітектурна схема, опис промптів, інструкція з додавання напрямків.
  • Доступи: до системи логування та моніторингу (Grafana, ELK), до API для самостійного оновлення конфігів.
  • Навчання: воркшоп для команди (4 години) з управління AI-IVR та донавчання на нових сценаріях.
  • Підтримка: 2 тижні після запуску — щоденні стендапи та фікс багів за пріоритетом.

Типові помилки при впровадженні

  1. Занадто багато напрямків у промпті (більше 10) — знижує точність. Оптимально 5–7.
  2. Відсутність fallback-сценарію при тривалому мовчанні — система має перепитувати або переводити на оператора.
  3. Ігнорування latency: якщо ASR + LLM займає більше 3 секунд, користувач кидає трубку. Ми використовуємо streaming ASR та кешування інтентів.
  4. Погана обробка неоднозначних запитів — без уточнювального запитання клієнт може потрапити не туди.

Замовте демонстрацію AI-IVR під ваш сценарій — ми оцінимо проект за один день і запропонуємо рішення з гарантією результату. Отримайте консультацію інженера: наші спеціалісти допоможуть підібрати оптимальну архітектуру.

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.