Предиктивне управління чергою дзвінків: ML-прогноз часу очікування

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
Предиктивне управління чергою дзвінків: ML-прогноз часу очікування
Середній
~5 днів
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1360
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    957
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1188
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    929

Розробка AI-системи черги дзвінків з предиктивним часом очікування

Оператори перевантажені, клієнти роздратовані, а бізнес втрачає до 30% вхідного трафіку. Стандартний IVR з «ваш дзвінок дуже важливий» лише збільшує abandonment rate — втрати дзвінків досягають 30% при очікуванні більше хвилини. Наш підхід на основі машинного навчання вирішує цю проблему: модель у реальному часі прогнозує точний час очікування та адаптує IVR-повідомлення для кожного абонента. Результат — скорочення втрачених дзвінків на 20–35% та зростання задоволеності клієнтів. За даними дослідження Forbes, компанії, які впровадили AI в кол-центри, знижують операційні витрати на 30%. Економія для середнього кол-центру становить від 2 000 000 до 5 000 000 грн на рік за рахунок зниження відтоку. Ми гарантуємо точність прогнозу ±15% при стабільному навантаженні, що підтверджено досвідом впровадження в 20+ контакт-центрах. Компанія має 5 років досвіду та 20+ реалізованих проектів у сфері AI-телефонії. Економія становить 2–5 млн грн на рік.

Як працює ML прогнозування часу очікування?

Основу складає ансамбль градієнтного бустингу (Gradient Boosting Regressor) з 200 деревами глибиною 5. Модель навчається на дев'яти ознаках:

  • довжина черги в момент дзвінка
  • кількість доступних операторів
  • середня тривалість розмови за останні 30 хвилин
  • година та день тижня
  • флаг святкового дня
  • інтенсивність вхідних дзвінків за останні 10 хвилин
  • кількість операторів на перерві
  • середній скіл-матч скор (наскільки кваліфікація оператора відповідає запиту)

Прогноз оновлюється кожні 30 секунд і видається з довірчим інтервалом (p10, p50, p90). Для production-розгортання модель конвертується в ONNX з INT8-квантизацією — це знижує latency p99 до 5 мс і дозволяє утримувати p99 інференсу нижче 10 мс навіть при пікових навантаженнях.

import numpy as np
from sklearn.ensemble import GradientBoostingRegressor
from datetime import datetime

class WaitTimePredictor:
    def __init__(self):
        self.model = GradientBoostingRegressor(
            n_estimators=200,
            max_depth=5,
            learning_rate=0.05
        )
        self.feature_names = [
            "queue_length",
            "available_agents",
            "avg_handle_time_last_30min",
            "hour_of_day",
            "day_of_week",
            "is_holiday",
            "incoming_call_rate_last_10min",
            "agents_on_break",
            "avg_skill_match_score"
        ]

    def predict_wait_time(self, queue_state: dict) -> tuple[float, float]:
        """Повертає (передбачений час, стандартне відхилення)"""
        features = self.extract_features(queue_state)
        X = np.array([[features[f] for f in self.feature_names]])

        predicted = self.model.predict(X)[0]
        # Використовуємо quantile regression для довірчого інтервалу
        # На практиці навчаємо три моделі: q10, q50, q90
        return max(0, predicted), max(15, predicted * 0.3)

    def extract_features(self, state: dict) -> dict:
        now = datetime.now()
        return {
            "queue_length": state["queue_length"],
            "available_agents": state["available_agents"],
            "avg_handle_time_last_30min": state["avg_handle_time"],
            "hour_of_day": now.hour,
            "day_of_week": now.weekday(),
            "is_holiday": is_holiday(now),
            "incoming_call_rate_last_10min": state["call_rate"],
            "agents_on_break": state["agents_on_break"],
            "avg_skill_match_score": state.get("skill_match", 0.7)
        }

Чому Gradient Boosting краще за нейромережу?

Gradient Boosting дає інтерпретованість та стійкість на розріджених даних. Нейромережа перенавчається при малому обсязі логів (менше 10 000 дзвінків) і потребує більше обчислювальних ресурсів. Ансамбль дерев працює ефективно вже на 1000 дзвінків на день і дозволяє легко додавати нові ознаки без перенавчання всієї моделі. На практиці ми не раз стикалися з ситуацією, коли LSTM давала приріст точності лише на 2–3% при 10-кратному збільшенні часу інференсу — такий оверхед невиправданий для real-time систем. На відміну від RAG-підходів, наша модель не потребує зовнішніх баз знань і працює без пошуку документів, що забезпечує затримку менше 10 мс. Gradient Boosting у 2–3 рази точніший за просте середнє значення. Gradient Boosting call center – найкращий вибір для реального часу.

Деталі навчання моделі
  • Квантильна регресія: три окремі Gradient Boosting Regressor для p10, p50, p90.
  • Функція втрат: quantile loss (pinball loss).
  • Оптимізація гіперпараметрів: RandomizedSearchCV по 5-fold cross-validation.
  • Донавчання: щотижня на нових даних з інкрементальним оновленням.

Які дані потрібні для навчання моделі?

Ключовий джерело — логи АТС з часовими мітками та статусами дзвінків. Додатково підвантажуємо календар свят і розклад перерв операторів. Оптимальний обсяг — від трьох місяців історії при навантаженні від 1000 дзвінків на день. Якщо даних менше — використовуємо transfer learning з публічних датасетів або симуляцію. Згідно з документацією scikit-learn, Gradient Boosting ефективний на вибірках від 1000 зразків.

IVR-повідомлення з динамічним часом

def format_wait_time_message(wait_seconds: float, uncertainty: float) -> str:
    wait_minutes = int(wait_seconds / 60)
    uncertainty_minutes = int(uncertainty / 60)

    if wait_seconds < 60:
        return "Очікування не перевищить однієї хвилини."
    elif uncertainty_minutes <= 1:
        return f"Ваш орієнтовний час очікування — {wait_minutes} хвилин."
    else:
        lower = max(1, wait_minutes - uncertainty_minutes)
        upper = wait_minutes + uncertainty_minutes
        return f"Очікування займе від {lower} до {upper} хвилин."

async def update_queue_announcement(queue_id: str, predictor: WaitTimePredictor):
    """Оновлюємо повідомлення в черзі кожні 30 секунд"""
    while True:
        state = await get_queue_state(queue_id)
        wait_time, uncertainty = predictor.predict_wait_time(state)

        message = format_wait_time_message(wait_time, uncertainty)

        # Опціональний callback
        if wait_time > 300:  # > 5 хвилин
            message += " Хочете, ми передзвонимо вам, як тільки звільниться оператор?"

        await telephony.update_queue_message(queue_id, message)
        await asyncio.sleep(30)

Порівняння підходів до прогнозування часу очікування

Модель Точність (MAPE) Час інференсу Мінімальний обсяг даних Інтерпретованість
Gradient Boosting 12–15% <10 мс 1 000 дзвінків Висока (важливість ознак)
LSTM 9–12% 50–100 мс 50 000 дзвінків Низька (чорний ящик)
Просте середнє 30–40% <1 мс будь-який Висока

Gradient Boosting дає оптимальний баланс точності, швидкості та вимог до даних. Для більшості контакт-центрів це найкращий вибір.

Порівняння: предиктивна черга проти FIFO

Параметр FIFO-черга Предиктивна черга (AI)
abandonment rate 25–35% 10–18%
точність прогнозу відсутня ±15% (p50)
час реакції на зміни ручне налаштування адаптація за 30 сек
можливість callback ні автоматичний при очікуванні >5 хв
складність впровадження мінімальна 4–6 тижнів під ключ

Предиктивна черга знижує відтік дзвінків приблизно в 2 рази в порівнянні з FIFO.

Склад робіт (що входить у вартість)

  • Аудит поточної телефонії та збір логів для навчання
  • Розробка пайплайну ознак та навчання моделі (Gradient Boosting + квантильна регресія)
  • Інтеграція з IVR та CRM через REST API
  • Налаштування callback-сервісу (автоматичний дозвон при звільненні оператора) – механізм callback scheduling (планування зворотних дзвінків)
  • Документація моделі та навчання адміністраторів
  • Підтримка протягом 30 днів після запуску

Доставка: повна документація, навчання персоналу, 30-денна підтримка.

Процес і строки

  1. Аналітика та збір даних — 1 тиждень
  2. Проектування ознак та навчання MVP — 1–2 тижні
  3. Інтеграція в продуктив — 1–2 тижні
  4. Тестування та оптимізація — 1 тиждень
  5. Деплой та передача документації — 1 тиждень

Орієнтовні строки: від 4 до 6 тижнів під ключ. Вартість проекту під ключ — від 150 000 грн (орієнтовно). Зв'яжіться з нами — оцінимо ваш проект безкоштовно та запропонуємо рішення.

Отримайте консультацію: пишіть на пошту або в месенджери — підберемо оптимальну конфігурацію під ваше навантаження.

Наша система інтелектуальної маршрутизації дзвінків (intelligent call routing) базується на моделі прогнозування часу очікування (predictive wait time model) і застосовується в ML контакт-центр, де машинне навчання call center підвищує ефективність. AI черга дзвінків дозволяє досягти abandonment rate зниження на 20–35%.

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.