Розробка голосових AI-агентів на VAPI: впровадження та оптимізація

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
Розробка голосових AI-агентів на VAPI: впровадження та оптимізація
Середній
від 1 дня до 3 днів
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1348
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1247
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    949
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1183
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    642
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    921

Розробка голосових AI-агентів на платформі VAPI

Клієнт скаржиться, що бот перебиває або повільно відповідає? Найчастіше проблема в невірній конфігурації переривань та виборі STT. Ми розробляємо голосових AI-агентів на VAPI — платформі, яка дає повний контроль над стеком: від транспорту до моделі. Наш досвід — 5+ років та 50+ впроваджених проектів, тому ми гарантуємо зниження p99 latency до 800 мс та природний діалог.

VAPI (Voice API) — інфраструктурна платформа для побудови голосових AI-агентів з акцентом на розробників. На відміну від no-code рішень, VAPI надає повний контроль над стеком: вибір провайдера STT (Deepgram, AssemblyAI), LLM (GPT-4o, Claude, Llama), TTS (ElevenLabs, Azure, OpenAI) та транспортного рівня (WebRTC, PSTN, SIP). Це дозволяє створювати агентів з RAG, function calling та кастомними голосами, які працюють у 10 разів швидше стандартних IVR-систем.

Архітектура VAPI-агента

Phone Call / WebRTC
        ↓
[VAPI Transport Layer]
        ↓
[STT: Deepgram / Whisper]
        ↓
[LLM: GPT-4o / Claude]  ←→  [Function Calls / Tools]
        ↓
[TTS: ElevenLabs / Azure]
        ↓
Audio Response

Чому VAPI, а не Twilio або власне рішення?

Twilio Voice API — це низькорівневий SIP-стек, де кожну затримку (STT, LLM, TTS) доводиться з'єднувати самому. VAPI агрегує всі етапи в одному виклику API, керує таймаутами та перериваннями з коробки. Результат: p99 latency на 40% нижче, а вартість розробки — у 2–3 рази менше. Для продакшену це означає економію на інфраструктурі та операторах до 40%.

Створення агента через VAPI API

import requests
from typing import Optional

class VAPIAgentBuilder:
    def __init__(self, api_key: str):
        self.api_key = api_key
        self.base_url = "https://api.vapi.ai"
        self.headers = {
            "Authorization": f"Bearer {api_key}",
            "Content-Type": "application/json"
        }

    def create_assistant(self, name: str,
                          system_prompt: str,
                          model: str = "gpt-4o",
                          voice_provider: str = "elevenlabs",
                          voice_id: str = "rachel",
                          tools: Optional[list] = None) -> dict:
        assistant_config = {
            "name": name,
            "model": {
                "provider": "openai" if "gpt" in model else "anthropic",
                "model": model,
                "systemPrompt": system_prompt,
                "temperature": 0.7,
            },
            "voice": {
                "provider": voice_provider,
                "voiceId": voice_id,
                "speed": 1.0,
                "stability": 0.5,
            },
            "transcriber": {
                "provider": "deepgram",
                "model": "nova-2",
                "language": "ru",
            },
            "firstMessage": "Здравствуйте! Чем могу помочь?",
            "endCallMessage": "Спасибо за звонок. До свидания!",
            "endCallFunctionEnabled": True,
            "silenceTimeoutSeconds": 20,
            "maxDurationSeconds": 600,
        }

        if tools:
            assistant_config["model"]["tools"] = tools

        response = requests.post(
            f"{self.base_url}/assistant",
            json=assistant_config,
            headers=self.headers
        )
        return response.json()

    def create_tool(self, name: str,
                     description: str,
                     parameters: dict,
                     server_url: str) -> dict:
        return {
            "type": "function",
            "function": {
                "name": name,
                "description": description,
                "parameters": {
                    "type": "object",
                    "properties": parameters,
                    "required": list(parameters.keys())
                }
            },
            "server": {
                "url": server_url,
                "timeoutSeconds": 5,
            }
        }

    def create_outbound_call(self, assistant_id: str,
                              phone_number: str,
                              customer_data: dict = None) -> dict:
        payload = {
            "assistantId": assistant_id,
            "customer": {
                "number": phone_number,
                "name": customer_data.get("name", "") if customer_data else "",
            },
        }

        if customer_data:
            payload["assistantOverrides"] = {
                "variableValues": customer_data
            }

        response = requests.post(
            f"{self.base_url}/call",
            json=payload,
            headers=self.headers
        )
        return response.json()

    def setup_inbound_phone_number(self, phone_number: str,
                                    assistant_id: str) -> dict:
        payload = {
            "number": phone_number,
            "assistantId": assistant_id,
            "fallbackDestination": {
                "type": "number",
                "number": "+1234567890"
            }
        }

        response = requests.post(
            f"{self.base_url}/phone-number",
            json=payload,
            headers=self.headers
        )
        return response.json()

Як зменшити latency до комфортного мінімуму?

Затримка складається з трьох етапів: розпізнавання мови (STT), логіка моделі (LLM) та синтез (TTS). У VAPI можна впливати на кожний:

  • Вибір STT: Deepgram Nova-2 дає ~250 мс при WER 8%, OpenAI Whisper — ~600 мс, але точніше. Для російськомовних проектів часто вибирають Whisper.
  • Переривання: включення interruptionsEnabled та встановлення numWordsToInterruptAssistant = 1 дозволяють користувачеві переривати агента без затримки.
  • Transport: WebRTC швидше PSTN — використовуйте його для клієнтів у регіоні.
  • Балансування: завантажуйте LLM на ендпоінтах з низькою latency, наприклад, через vLLM або Groq.

На практиці після оптимізації p99 latency становить 600–900 мс — це комфортний рівень для діалогу.

Як налаштувати переривання для природного діалогу?

VAPI дозволяє тонко налаштовувати параметри, що впливають на природність розмови:

  • interruptionsEnabled — дозволяє користувачеві переривати агента. Критично для натуральності діалогу.
  • backgroundDenoisingEnabled — фільтрація фонового шуму через Krisp.
  • numWordsToInterruptAssistant — скільки слів користувача потрібно для переривання агента (рекомендується 1-2).
  • backchannelingEnabled — агент вимовляє «угу», «зрозуміло» під час пауз.
Приклад конфігурації для низької затримки
{
  "model": {
    "provider": "openai",
    "model": "gpt-4o",
    "temperature": 0.7
  },
  "voice": {
    "provider": "elevenlabs",
    "voiceId": "rachel",
    "speed": 1.0
  },
  "transcriber": {
    "provider": "deepgram",
    "model": "nova-2",
    "language": "ru"
  },
  "interruptionsEnabled": true,
  "numWordsToInterruptAssistant": 1,
  "backchannelingEnabled": false
}

Інтеграція з WebRTC для веб-дзвінків

import Vapi from "@vapi-ai/web";

const vapi = new Vapi("YOUR_PUBLIC_KEY");

vapi.start({
  assistantId: "your-assistant-id",
});

vapi.on("call-start", () => console.log("Call started"));
vapi.on("call-end", () => console.log("Call ended"));
vapi.on("message", (message) => {
  if (message.type === "transcript") {
    console.log(message.role, message.transcript);
  }
  if (message.type === "function-call") {
    console.log("Tool:", message.functionCall.name);
  }
});

Порівняння STT провайдерів у VAPI

Провайдер Latency (WER) Російська Вартість
Deepgram Nova-2 ~250ms, WER 8% добре $0.0059/хв
AssemblyAI Universal ~400ms, WER 7% добре $0.0065/хв
OpenAI Whisper ~600ms, WER 6% відмінно $0.006/хв
Azure Cognitive ~300ms, WER 9% добре $0.016/хв

Параметри оптимізації latency

Параметр Значення за замовчуванням Рекомендація
interruptionsEnabled false true
numWordsToInterruptAssistant 3 1-2
backgroundDenoisingEnabled false true (якщо шум)
Transport PSTN WebRTC

Що входить у роботу

Кожен проект включає:

  • Архітектуру агента з вибором оптимальних провайдерів під ваш сценарій.
  • Реалізацію Function Calls для інтеграції з вашими системами (CRM, бази знань).
  • Налаштування переривань та лімітів для природного діалогу.
  • Розгортання в production (SageMaker, Vercel, власний сервер).
  • Документацію коду та інструкції з підтримки.
  • Гарантійну підтримку протягом місяця після запуску.

Типові помилки при розробці VAPI-агента

  • Дозвіл переривань без тестування реальних сценаріїв: агент не дослуховує довгі відповіді.
  • Використання PSTN замість WebRTC: latency на 1–2 секунди вище.
  • Ігнорування таймаутів Function Calls: якщо ендпоінт відповідає довше 5с, агент зависає.
  • Відсутність fallback-номера: при помилці клієнт повинен переключатися на оператора.

Строки та вартість

Прототип голосового агента з базовим сценарієм — від 2 до 3 днів. Повноцінне рішення з інтеграціями, тестуванням та навчанням — від 3 до 5 тижнів. Вартість розраховується індивідуально під ваш проект. Зв'яжіться з нами, щоб отримати прототип за 2-3 дні. Замовте консультацію для оцінки вашого сценарію.

Джерело: VAPI REST API

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.