Розробка голосового AI на Voximplant: інтеграція VoxEngine, STT/TTS

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
Розробка голосового AI на Voximplant: інтеграція VoxEngine, STT/TTS
Середній
від 1 тижня до 3 місяців
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1358
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    956
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1188
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    929

Вихідний обдзвін на 500 контактів — бот відповідає із затримкою 4 секунди, клієнти скидають дзвінок. Ми зіткнулися з цим, коли клієнт-рієлторська компанія втрачала 30% лідів через паузи. Після інтеграції Voximplant з AI-бекендом latency знизили до 600 мс, конверсія в розмову зросла на 40%. Один із проєктів приніс замовнику значну економію за рахунок скорочення штату операторів.

Російська платформа Voximplant з VoxEngine дає повний контроль над дзвінком, але її інтеграція з AI-моделями потребує тонкого налаштування потокового аудіо, VAD та управління чергами. За 5 років роботи ми реалізували понад 30 голосових AI-рішень на Voximplant. Наші інженери сертифіковані Voximplant Developer і знають, як вичавити мінімум 200 мс latency на етапі STT.

Які проблеми вирішуємо

Висока затримка відповіді — головний біль. При послідовній обробці аудіо (дзвінок → запис → розпізнавання → відповідь) latency досягає 3–5 секунд. Пауза в 1.5 секунди вже помітна користувачеві. Рішення — потокова обробка через WebSocket: аудіо передається фреймами по 30 мс, паралельно запускається голосовий VAD.

Нестабільне розпізнавання при фоновому шумі або швидкому мовцеві. Ми використовуємо моделі з адаптивним шумопригніченням (наприклад, Silero VAD) та налаштовуємо чутливість для кожного каналу.

Проблеми масштабування — VoxEngine сценарії працюють в одному потоці, а при 100+ одночасних дзвінках легко впертися в ліміти. Ми проєктуємо архітектуру з чергою повідомлень (RabbitMQ/NATS) і пулом AI-воркерів, розподіляючи навантаження.

Як влаштована інтеграція Voximplant з AI?

Основний патерн — VoxEngine відкриває WebSocket-з'єднання з нашим Python-бекендом при кожному дзвінку. Весь аудіопотік іде через нього, керований подіями.

// VoxEngine сценарій (JavaScript)
VoxEngine.addEventListener(AppEvents.CallAlerting, (e) => {
    const call = e.call;
    call.answer();

    // Створюємо WebSocket з'єднання з нашим AI-бекендом
    const wsConn = VoxEngine.createWSClient(`wss://api.yourapp.com/voxi-stream`);

    // Прив'язуємо аудіо дзвінка до WebSocket
    call.sendMediaTo(wsConn);
    wsConn.sendMediaTo(call);

    wsConn.addEventListener(WSClientEvents.ConnectionClosed, () => {
        call.hangup();
    });

    call.addEventListener(CallEvents.Disconnected, () => {
        wsConn.close();
    });
});

На бекенді FastAPI приймає потік, накопичує аудіо в буфер, виявляє кінець фрази (VAD) і відправляє в ASR-модель. Результат — в TTS, синтезована мова повертається назад.

from fastapi import FastAPI, WebSocket
import asyncio

@app.websocket("/voxi-stream")
async def voximplant_stream(websocket: WebSocket):
    await websocket.accept()
    session = VoiceSession()

    # Відправляємо привітання
    greeting_audio = await tts.synthesize("Доброго дня! Чим можу допомогти?")
    await websocket.send_bytes(greeting_audio)

    audio_buffer = bytearray()
    silence_frames = 0

    async for chunk in websocket.iter_bytes():
        audio_buffer.extend(chunk)
        silence_frames = 0  # скидаємо при отриманні аудіо

        # Обробляємо кожні 1.5 секунди накопиченого аудіо
        if len(audio_buffer) >= 24000 * 2:  # 1.5 sec @ 16kHz 16-bit
            response = await process_utterance(bytes(audio_buffer), session)
            if response:
                audio_response = await tts.synthesize(response)
                await websocket.send_bytes(audio_response)
            audio_buffer = bytearray()

Докладніше про протокол WebSocket. Зв'яжіться з нами, щоб обговорити ваш сценарій та отримати демонстрацію потокової обробки.

Що дає використання VoxEngine?

VoxEngine — це не проксі, а повноцінний JavaScript-двигун всередині дзвінка. Він дозволяє гнучко керувати медіа-потоком: мікшувати аудіо, перемикати канали, додавати тоновий набір. Для AI-сценаріїв це означає, що ми можемо відтворювати пререкорди (наприклад, «Зачекайте, будь ласка»), поки AI-модель обробляє запит, — без затримки.

Порівняння підходів VoxEngine + WebSocket REST API (виклик-відповідь)
Latency (p99) 400–800 мс 2–5 с
Масштабування 500+ одночасних дзвінків 50–100 дзвінків
Вартість інфраструктури Помірна (один WebSocket-сервер) Висока (залежить від кількості HTTP-воркерів)
Гнучкість діалогу Режим реального часу, переривання Тільки послідовні запити

З таблиці видно, що VoxEngine + WebSocket забезпечує latency у 400–800 мс, що в 5–10 разів швидше, ніж REST API.

Порівняння популярних моделей ASR/TTS

Модель Latency (p50) Точність (WER) Мови
Whisper (large) 300 мс 5% 99
Silero 150 мс 8% 2
Google STT 200 мс 6% 125
Yandex SpeechKit 250 мс 7% ru/en

Вибір моделі залежить від необхідної точності та бюджету. Для російської мови часто рекомендуємо Yandex SpeechKit або Whisper.

Чому Voximplant краще для голосового AI?

Документація Voximplant підтверджує: платформа спочатку проєктувалася для real-time комунікацій. На відміну від звичайних SIP-транків, VoxEngine дозволяє обробляти аудіо на рівні JavaScript, що дає sub-секундні затримки при правильній інтеграції.

Як знизити latency до 200 мс?

Досягти 200 мс на етапі STT можна лише при комплексному підході:

  • Використовувати VAD з низьким порогом (Silero VAD з threshold 0.3)
  • Попередньо завантажувати ASR-модель у GPU-пам'ять
  • Застосовувати streaming ASR (наприклад, Whisper cpp у real-time режимі)
  • Оптимізувати розмір аудіофреймів (30–50 мс)
Детальніше про налаштування VAD VAD (Voice Activity Detection) критичний для зниження latency. Рекомендуємо використовувати Silero VAD з параметром threshold 0.3 та min_silence_duration_ms 150. Це дозволяє відсікати паузи і не витрачати час на передачу тиші.

Вихідний обдзвін: як автоматизувати масові кампанії

Для вихідних дзвінків Voximplant надає API StartScenarios. Ми запускаємо кампанії з персоналізацією: передаємо в сценарій ім'я клієнта, контекст попередніх звернень.

import requests

def start_outbound_campaign(contacts: list[dict]):
    """Запускаємо масовий обдзвін через Voximplant API"""
    for contact in contacts:
        response = requests.post(
            "https://api.voximplant.com/platform_api/StartScenarios/",
            data={
                "account_name": VOXI_ACCOUNT,
                "api_key": VOXI_API_KEY,
                "rule_name": "outbound_bot",
                "script_custom_data": json.dumps({
                    "phone": contact["phone"],
                    "customer_name": contact["name"],
                    "context": contact.get("context", {})
                }),
                "reference_to_call_id": contact["phone"]
            }
        )

Типові помилки: не обробляти зайняті лінії/недоступність — ми додаємо повторний дзвінок з експоненціальною затримкою та логуванням причин скидання.

Що входить у роботу

  • Аудит поточної телефонії та вимог до AI-сценарію.
  • Проєктування архітектури: вибір ASR/TTS, VAD, налаштування WebSocket-з'єднань.
  • Розробка VoxEngine-сценарію та Python-бекенду (FastAPI, asyncio).
  • Інтеграція з CRM та системами обліку (за потреби).
  • Навантажувальне тестування (1000+ віртуальних дзвінків).
  • Документація по сценарію та API.
  • Навчання операторів та підтримка 3 місяці після запуску.

Процес роботи

  1. Аналітика — вивчаємо ваші діалоги, визначаємо інтенти та слоти.
  2. Прототип — за 5 днів робимо MVP на одному сценарії (наприклад, відповіді на часті питання).
  3. Розробка — пишемо VoxEngine-код, підключаємо обрані ASR/TTS, налаштовуємо VAD.
  4. Тестування — прогоняємо 100+ тестових дзвінків, заміряємо latency та якість розпізнавання.
  5. Промисловий запуск — розгортаємо продакшен-інфраструктуру, налаштовуємо моніторинг (grafana, alertmanager).
  6. Підтримка — моніторинг, донавчання моделей, доопрацювання сценаріїв за статистикою.

Терміни орієнтовно

  • Базова інтеграція (один сценарій, ASR/TTS «з коробки») — від 1 до 2 тижнів.
  • Повноцінний production з вихідним обдзвоном, 3+ інтентами, інтеграцією CRM — від 1.5 до 2 місяців.
  • Вартість розраховується індивідуально, залежно від складності діалогів та вимог до latency.

Опишіть задачу — за 1 день підготуємо комерційну пропозицію з архітектурою та термінами. Гарантуємо SLA 99.9% та зниження часу відповіді бота до 200 мс. Замовте консультацію прямо зараз та отримайте аналіз вашої поточної схеми телефонії. Для оперативного старту зв'яжіться з нами через форму на сайті.

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.