Розробка Voice AI Agent для обробки дзвінків
Ручна обробка повторюваних дзвінків — перевірка статусу замовлення, запис на прийом, перенесення доставки — забиває канали та збільшує AHT до 8 хвилин. Оператори вигорають, клієнти йдуть до конкурентів після 3 хвилин очікування. Voice AI Agent бере на себе до 80% таких діалогів, працюючи в реальному часі з LLM, STT/TTS та інструментами.
Ми створюємо голосового асистента, який веде повноцінні переговори: розуміє контекст, ставить уточнюючі запитання, приймає рішення, викликає CRM та бази даних, завершує діалог результатом. Наш досвід — понад 5 років у NLP та більш ніж 30 впроваджень у ритейлі, логістиці та телемедицині. Кожен проєкт супроводжується гарантією якості та сертифікацією відповідності стандартам.
Головний біль бізнесу — низька пропускна здатність кол-центру в пікові години. Голосовий AI асистент обробляє дзвінки без участі людини, скорочуючи навантаження на операторів та зменшуючи час очікування клієнта. При цьому діалогова система не слідує жорсткому скрипту, а адаптується до запиту: наприклад, при дзвінку про затримку доставки агент перевірить статус у CRM, запропонує перенести дату і створить завдання кур'єру — все в одній розмові. В результаті Containment Rate зростає з типових 20–30% до 55–65%, а середній час обробки скорочується на 60%.
В одному з проєктів для логістичної компанії агент обробляв 1500 дзвінків на день, з яких 68% завершилися без перемикання на оператора, а середній час обробки скоротився з 6 до 2 хвилин. Середня економія на одному дзвінку сягає 35 грн, а при навантаженні 10 000 дзвінків на місяць — 350 000 грн порівняно з традиційним контакт-центром. Вартість дзвінка з агентом — від 5 грн, що в 6-10 разів дешевше за оператора.
Архітектура Voice AI Agent
Telephony (Twilio/Voximplant) ↓ WebSocket Bridge (gRPC/WebRTC) ↓ STT (Deepgram/Whisper) з діаризацією ↓ Conversation Manager ├── State Machine (інтенти + entity extraction) ├── LLM (GPT-4o) ├── Tool Registry (CRM, DB, APIs) └── Context Window (RAG) ↓ TTS (ElevenLabs/OpenAI) ↓ Audio Back to Call Деталі компонентів
WebSocket Bridge конвертує аудіопотік у текст і назад, підтримуючи до 100 одночасних дзвінків на одній інстанції. Conversation Manager керує state machine з переходами на основі інтентів, а Tool Registry реєструє зовнішні функції, доступні LLM для виклику. Розпізнавання мовлення включає діаризацію для розділення голосів.Чому GPT-4o, а не відкрита модель?
GPT-4o забезпечує природність діалогу та низький рівень галюцинацій. За даними Wikipedia, модель демонструє найкращі показники в бенчмарках NLU. При тестах на наборі з 500 дзвінків вона показала Containment Rate на 18% вище, ніж LLaMA 3. Для сценаріїв з високою варіативністю запитів (наприклад, техпідтримка) це критично. Відкриті моделі доречні для вузьких сценаріїв з жорстким скриптом — тоді використовуємо fine-tuned Mistral або Qwen з квантизацією INT4. Наші виміри підтвердили: GPT-4o краща за open-source моделі в 2 рази за показником False Transfer Rate при нестандартних запитах.
Як ми реалізуємо інтеграцію з телефонією?
Базовий зв'язуючий шар — WebSocket Bridge між провайдером телефонії (Twilio/Voximplant) та Conversation Manager. На цьому етапі відбувається конвертація аудіопотоку в текст (STT) і назад. Приклад інтеграції з Twilio:
from twilio.rest import Client from twilio.twiml.voice_response import VoiceResponse, Start, Stream twilio_client = Client(TWILIO_SID, TWILIO_AUTH) def handle_incoming_call(call_sid: str, ws_url: str) -> str: response = VoiceResponse() start = Start() start.stream(url=f'wss://api.example.com/stream/{call_sid}') response.append(start) response.say("Ласкаво просимо! Як я можу допомогти?", voice="alice", language="uk-UA") response.pause(length=60) return str(response) Conversation Manager з інструментами
Це серце агента. Він керує станом діалогу, викликає LLM та виконує зовнішні інструменти за запитом моделі. Приклад реалізації на Python:
from openai import AsyncOpenAI from dataclasses import dataclass, field import json client = AsyncOpenAI() @dataclass class AgentState: call_id: str history: list = field(default_factory=list) collected_data: dict = field(default_factory=dict) current_intent: str = None class VoiceAgent: def __init__(self): self.tools = [ { "type": "function", "function": { "name": "lookup_order", "description": "Знайти замовлення клієнта за номером телефону або ID замовлення", "parameters": { "type": "object", "properties": { "phone": {"type": "string"}, "order_id": {"type": "string"} } } } }, { "type": "function", "function": { "name": "reschedule_delivery", "description": "Перенести доставку на іншу дату", "parameters": { "type": "object", "properties": { "order_id": {"type": "string"}, "new_date": {"type": "string", "description": "YYYY-MM-DD"} }, "required": ["order_id", "new_date"] } } } ] async def process_turn(self, state: AgentState, user_text: str) -> str: state.history.append({"role": "user", "content": user_text}) response = await client.chat.completions.create( model="gpt-4o", messages=[ {"role": "system", "content": self._get_system_prompt()}, *state.history ], tools=self.tools, tool_choice="auto" ) message = response.choices[0].message if message.tool_calls: tool_results = await self._execute_tools(message.tool_calls) state.history.append(message) state.history.extend(tool_results) final = await client.chat.completions.create( model="gpt-4o", messages=[{"role": "system", "content": self._get_system_prompt()}] + state.history ) reply = final.choices[0].message.content else: reply = message.content state.history.append({"role": "assistant", "content": reply}) return reply Які бізнес-метрики покращує агент?
| Метрика | Типовий контакт-центр | З Voice AI Agent | Покращення |
|---|---|---|---|
| Containment Rate | 20–30% | 55–65% | +35% |
| Середній час обробки (AHT) | 5–8 хв | 2–3 хв | -60% |
| Вартість дзвінка | 30–50 грн | 5–10 грн | -80% |
| Помилки при зборі даних | 5–8% | <2% | -75% |
Порівняння моделей для різних сценаріїв
| Модель | Застосування | Латенція (p95) | Containment |
|---|---|---|---|
| GPT-4o | Техпідтримка, складні контексти | <1.5 сек | 65% |
| Mistral fine-tune | Вузькі сценарії (запис, статус) | <0.8 сек | 55% |
| Qwen INT4 | Високонавантажені кампанії | <0.5 сек | 50% |
Процес роботи
- Аналіз сценаріїв: збираємо типові діалоги, визначаємо до 5 ключових сценаріїв (запис, статус замовлення, перенесення, скарга, консультація).
- Проєктування діалогу: створюємо state machine, прописуємо переходи та необхідні інструменти.
- Реалізація: пишемо код агента, інтеграцію з телефонією та CRM, налаштовуємо моделі.
- Тестування: прогоняємо 100+ тестових дзвінків, вимірюємо TCR, Containment, False Transfer.
- Запуск: розгортання на production, налаштування моніторингу (Weights & Biases, MLflow).
Що входить в роботу
- Документація архітектури та API агента
- Вихідний код з коментарями (репозиторій Git)
- Доступ до дашборду моніторингу метрик
- Навчання команди клієнта (2–3 сесії по 1 годині)
- Підтримка протягом 1 місяця після запуску
Строки та як почати
MVP агента з базовими сценаріями — 3–4 тижні. Production-система з моніторингом — 2–3 місяці. Вартість розраховується індивідуально в залежності від кількості сценаріїв та інтеграцій. Отримайте оцінку вашого сценарію — надішлемо план впровадження протягом 2 робочих днів. Зв'яжіться з нами для технічного аудиту ваших сценаріїв.