Інтеграція Asterisk з AI: як це зробити?
"У нас Asterisk 18, хочемо додати голосового асистента, але готові рішення тягнуть за собою хмарну підписку і не дають контролювати затримки". Це типовий біль. Штатні можливості FreePBX — DTMF-меню та відтворення prerecorded-файлів. AI дозволяє перейти до діалогу: користувач говорить, система розуміє, LLM приймає рішення, TTS відповідає. Але інтеграція — не "поставити модуль". Це про вибір стеку (STT: Whisper або Deepgram? LLM: LLaMA 3.1 70B або GPT-4o-mini? TTS: Piper або ElevenLabs?), про latency p99 та збіжність діалогу. Розповімо, як ми такі проекти збираємо на on-premise або гібриді.
Які проблеми вирішуємо
Проблема 1: Якість розпізнавання в шумному середовищі. Кол-центри, офіси відкритого плану, вуличний шум — стандартні STT моделі дають WER > 30%. Ми використовуємо Whisper large-v3 з fine-tuning на вашому аудіокорпусі (300 годин записів знижують WER до 10%) або Deepgram Nova-2 з шумоподавленням на вході.
Проблема 2: Затримка end-to-end > 2 секунд. Користувач не готовий чекати відповіді довше 1.5 с. Ми оптимізуємо пайплайн: streaming STT з частковими результатами, LLM з раннім виходом, TTS з генерацією першого пакета за 150 мс. На стеку Whisper + vLLM + Piper отримуємо p99 = 1.1 с.
Проблема 3: Відмовостійкість. Падіння AI-сервісу не повинно ламати дзвінок. Ми проектуємо fallback: при таймауті AI-вузла діалплан перемикається на стандартне IVR. ARI-додаток моніторить health кожного компонента і при помилці повертає управління в Asterisk.
Як ми це робимо: стек і конфіги
Вибір інтерфейсу — AGI або ARI — залежить від вимог до real-time та складності діалогу. Нижче порівняння.
| Характеристика | AGI (Asterisk Gateway Interface) | ARI (Asterisk REST Interface) |
|---|---|---|
| Механізм | Запуск скрипта по події | WebSocket + REST, full duplex |
| Latency | +3-5 мс (системний виклик) | +1-2 мс (пряме управління каналом) |
| Підтримка streaming | Тільки пакетний запис | True streaming аудіо |
| Складність | Низька (Python-скрипт) | Висока (асинхронний додаток) |
| Відмовостійкість | Вбудований retry | Вимагає ручного реконнекта |
| Коли обирати | Прості IVR, голосовий ввід/вивід | Реал-тайм діалог, перебивання, зміна теми |
Приклад AGI-скрипту (Python):
# agi_bot.py import sys from asterisk.agi import AGI agi = AGI() agi.answer() agi.set_variable("CHANNEL(audioreadformat)", "slin16") # Запис аудіо від користувача agi.record_file( "/tmp/user_audio", "wav", "#", # stop key 3000, # timeout ms 0, # offset True, # beep 3 # silence threshold ) # STT + LLM + TTS в окремому сервісі import requests with open("/tmp/user_audio.wav", "rb") as f: stt_response = requests.post("http://ai-service/stt", files={"audio": f}) transcript = stt_response.json()["text"] llm_response = requests.post("http://ai-service/chat", json={"text": transcript}) response_text = llm_response.json()["response"] tts_response = requests.post("http://ai-service/tts", json={"text": response_text}) with open("/tmp/response.wav", "wb") as f: f.write(tts_response.content) agi.stream_file("/tmp/response") ARI-приклад (asyncio):
import asyncio import aiohttp from ari_client import ARIClient async def handle_stasis(channel_id: str, ari: ARIClient): """Обробник вхідного дзвінка через ARI""" await ari.answer(channel_id) # Створюємо снєпшот аудіо каналу await ari.channel.record( channelId=channel_id, name=f"call_{channel_id}", format="wav", terminateOn="silence", maxSilenceSeconds=2 ) Чому варто обрати AGI, а не ARI?
Якщо ваш сценарій — простий голосовий ввід-вивід (наприклад, "скажіть ПІБ, система знайде клієнта"), AGI дає мінімальний час розробки. Написання скрипта займає 1-2 дні, налагодження — ще тиждень. ARI ж вимагає асинхронної архітектури та управління сесією, але дозволяє обробляти перебивання та часткові результати розпізнавання. Для контакт-центрів з природним діалогом ARI — єдиний вибір.
Як забезпечити latency < 1 секунди?
Збираємо пайплайн:
- STT — Whisper medium.en + ModelScope (INT8 quant) на GPU T4 — first token за 250 мс.
- LLM — vLLM з LLaMA 3.1 8B, prefill в 20 tokens, generation з early stopping — 400 мс. Порівняйте: vLLM в 2.5x швидше стандартного Hugging Face pipeline під навантаженням.
- TTS — Piper (VITS) з синтезом першого пакета за 100 мс. Підсумок: 750 мс end-to-end. Під навантаженням 10 одночасних дзвінків latency p99 тримається в 1.2 с.
Згідно з документацією Asterisk, для streaming аудіо рекомендується використовувати ARI, оскільки AGI не підтримує повнодуплексну передачу.
Порівняння LLM для голосових сценаріїв
| Модель | Latency (first token) | Якість (багатозадачність) | Вартість (за 1M токенів) |
|---|---|---|---|
| LLaMA 3.1 70B (on-premise) | 400–500 мс | Високе | ~$0.5 (електрика) |
| GPT-4o-mini (хмара) | 300–400 мс | Дуже високе | $0.15/$0.60 (input/output) |
| Mistral 7B (on-premise) | 200–300 мс | Середнє | ~$0.1 |
Конфігурація Triton Inference Server для LLM
name: "llama_ensemble" backend: "ensemble" input [ { name: "text_input" data_type: TYPE_STRING dims: [ -1 ] } ] output [ { name: "text_output" data_type: TYPE_STRING dims: [ -1 ] } ] Процес роботи
- Аналітика (1–3 дні): Аудит поточної конфігурації Asterisk/FreePBX, збір вимог до сценаріїв, замір середньої тривалості дзвінків.
- Проектування (2–5 днів): Вибір стеку (моделі, фреймворки), проектування інтеграції, прототип діалогу.
- PoC (1–2 тижні): Запуск на тестовій АТС з 1 вхідним номером. Демонстрація замовнику.
- Продакшен (2–4 тижні): Розгортання на цільових серверах, налаштування моніторингу (Prometheus + Grafana), інтеграція з CRM.
- Підтримка (2 тижні після запуску): Навчання операторів, коригування діалогового сценарію, оптимізація latency.
Строки та вартість
- Базова AGI-інтеграція (один сценарій, Whisper + LLaMA + Piper): від 2 до 3 тижнів.
- Повноцінна ARI-реалізація (real-time діалог, multilingua, відмовостійкість): від 1 до 1.5 місяців. Вартість розраховується індивідуально після аудиту інфраструктури. Отримайте консультацію — оцінимо ваш проект за 1 день.
Що входить в роботу
- Документація з розгортання та експлуатації.
- Репозиторій з конфігами та скриптами (Git).
- Навчання операторів (2 сесії по 1 годині).
- Два тижні супроводу після запуску.
- Гарантія 3 місяці на код.
Ми — команда з 5-річним досвідом AI-інтеграцій для телефонних систем. У нас за плечима 12+ проектів для контакт-центрів до 50 ліній. Сертифіковані інженери з Asterisk та FreePBX (дистрибутив Sangoma). Зв'яжіться з нами — надішлемо техніко-комерційну пропозицію.