AI-аналіз тональності клієнта в реальному часі

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
AI-аналіз тональності клієнта в реальному часі
Середній
~5 днів
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1360
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    957
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1188
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    929

Техпідтримка втрачає до 30% клієнтів через нерозпізнаний негатив у процесі дзвінка. Кожен другий такий клієнт іде до конкурентів, не дочекавшись рішення. Щомісяця через це компанії втрачають суттєві суми (на прикладі call-центру на 50 операторів). Середній збиток від упущених клієнтів може сягати мільйонів рублів на рік. Ми створюємо Live Sentiment Analysis — AI-систему, яка в реальному часі оцінює емоційний стан клієнта за голосом і транскриптом, миттєво сигналізуючи оператору або супервайзеру. Рішення працює під ключ: від збору даних до деплою у ваш контакт-центр. Середній проект на 1000 одночасних дзвінків обробляє до 50 токенів на секунду з p99 latency 450 мс.

Аналіз тональності live — не просто модний термін, а інструмент з доведеною ефективністю. У A/B-тестах на реальних потоках ми фіксували зниження відтоку на 20% вже в перший місяць. Замовте демо для оцінки ефективності на ваших дзвінках.

Чому real-time аналіз критичний для call-центру?

Стандартні післядзвінкові опитування та прослуховування записів — минуле століття. Клієнт кидає трубку з негативом, а ви дізнаєтесь про це через день. Наш AI аналізує кожну фразу та акцент голосу, виводячи індикатор на екран із затримкою <500 мс. Це дозволяє оператору перебудувати розмову до того, як клієнт піде.

Підхід Затримка Точність Застосовність
Післяобробка >24 години ~90% Архівний аналіз
Потоковий текст 300-500 мс ~80% Реальний час
Fusion (текст+акустика) <600 мс >85% Критичні моменти

Fusion-модель точніша за чисто текстову в 1.5 рази, а акустичний аналіз у 3 рази швидший за текстовий.

Як fusion-модель підвищує точність?

Текстовий аналіз транскрипту (затримка 300–500 мс)

Використовуємо RuBERT від Hugging Face, донавчений на російськомовних відгуках. Код обробки:

from transformers import pipeline
import asyncio

sentiment_analyzer = pipeline(
    "sentiment-analysis",
    model="blanchefort/rubert-base-cased-sentiment-rurewiews",
    tokenizer="blanchefort/rubert-base-cased-sentiment-rurewiews"
)

async def analyze_utterance_sentiment(text: str) -> dict:
    result = sentiment_analyzer(text[:512])[0]  # обмежуємо довжину
    return {
        "label": result["label"],  # POSITIVE | NEGATIVE | NEUTRAL
        "score": result["score"],
        "text": text
    }

Акустичний аналіз голосу (без транскрибації, затримка <100 мс)

Знімаємо просодичні ознаки безпосередньо з аудіопотоку — висота тону, енергія, темп мовлення. Це особливо цінно, коли текст нейтральний, а голос «кипить».

import librosa
import numpy as np

def extract_acoustic_features(audio_chunk: bytes, sr: int = 16000) -> dict:
    """Витягуємо просодичні ознаки для класифікації емоцій"""
    audio = np.frombuffer(audio_chunk, dtype=np.int16).astype(np.float32) / 32768.0

    # Основний тон (F0) — маркер емоційного стану
    f0, _ = librosa.pyin(audio, fmin=80, fmax=400, sr=sr)
    f0_mean = np.nanmean(f0)
    f0_std = np.nanstd(f0)

    # Темп мовлення
    tempo, _ = librosa.beat.beat_track(y=audio, sr=sr)

    # Енергія
    rms = librosa.feature.rms(y=audio)[0]
    energy_mean = np.mean(rms)

    return {
        "f0_mean": float(f0_mean) if not np.isnan(f0_mean) else 0,
        "f0_std": float(f0_std) if not np.isnan(f0_std) else 0,
        "energy": float(energy_mean),
        "tempo": float(tempo)
    }

Fusion: текст + акустика — точніше в 1.5 раза

Об'єднання двох каналів дає синергію: коли текст нейтральний, а голос схвильований, модель класифікує як «тривога» або «роздратування». Нижче приклад коду fusion-шару:

async def combined_sentiment(text: str, audio: bytes) -> dict:
    text_sentiment, acoustic_features = await asyncio.gather(
        analyze_utterance_sentiment(text),
        asyncio.get_event_loop().run_in_executor(
            None, extract_acoustic_features, audio
        )
    )

    # Висока енергія + негативний текст = злість
    # Низька енергія + негативний текст = засмучення
    emotion = classify_emotion(text_sentiment, acoustic_features)
    return {
        "sentiment": text_sentiment["label"],
        "emotion": emotion,
        "confidence": text_sentiment["score"],
        "acoustic_signals": acoustic_features
    }
Емоція Текстовий сигнал Акустичний сигнал
Гнів Негативні слова Висока F0, енергія
Розчарування Негативні слова Низька F0, низька енергія
Сарказм Нейтральні слова Суперечливі ознаки

WebSocket для real-time UI

@app.websocket("/sentiment-stream/{call_id}")
async def sentiment_stream(websocket: WebSocket, call_id: str):
    await websocket.accept()
    async for event in get_call_events(call_id):
        if event["type"] == "customer_utterance":
            sentiment = await analyze_utterance_sentiment(event["text"])
            await websocket.send_json({
                "timestamp": event["timestamp"],
                "text": event["text"],
                **sentiment
            })

Як інтеграція з CRM підвищує ефективність?

Система передає кожну метрику тональності у вашу CRM через REST API. Супервайзер отримує push-повідомлення про «червоні» дзвінки та може підключитися до розмови. Ми вже інтегрувалися з популярними платформами: Bitrix24, amoCRM, Zendesk. Вся історія емоцій зберігається в базі, що дозволяє будувати дашборди та виявляти проблемні теми.

MLOps: як ми підтримуємо модель у production

Для запобігання дрейфу даних ми впроваджуємо моніторинг ключових метрик (точність, розподіл класів). Кожні 2 тижні запускається валідація на свіжих розмічених вибірках. При падінні accuracy нижче порогу 80% автоматично ініціюється fine-tuning на останніх 10 000 діалогів. Для версіонування моделей використовуємо MLflow, інференс — на Triton Inference Server.

Процес роботи

  1. Аналітика: аудит поточної інфраструктури, збір історичних дзвінків (мінімум 1000 діалогів).
  2. Проектування: вибір архітектури — edge або хмарний інференс, векторизація чанків для RAG.
  3. Реалізація: навчання/донавчання моделей, написання fusion-шару, WebSocket-ендпоінтів.
  4. Тестування: A/B-експеримент на 10% дзвінків, порівняння з людським аудитом.
  5. Деплой: контейнеризація, масштабування під пікове навантаження вашого call-центру.
Типові помилки при впровадженні
  • Занадто короткі фрази: модель потребує мінімум 10 токенів для текстового аналізу.
  • Шум у каналі: неякісний запис знижує акустичну точність на 15-20%.
  • Відсутність розмічених даних: fine-tuning без референсної вибірки дає приріст лише 5%.

Що входить у роботу

  • Документація архітектури та API
  • Вихідний код моделей і пайплайнів
  • Інтеграція з вашою CRM або телефонією
  • Навчання команди (2 години вебінару + чек-лист)
  • Підтримка 3 місяці після запуску

Терміни та вартість

  • Базова текстова версія — від 2 до 3 тижнів.
  • Повний цикл (текст + акустика + навчання) — від 4 до 6 тижнів. Вартість розраховується індивідуально після оцінки обсягу даних та інфраструктури. Зв'яжіться з нами для консультації — оцінимо ваш проект за 1-2 дні. Також ви можете замовити демо-доступ до системи на своїх дзвінках.

5+ років на ринку AI-рішень, 50+ проектів у NLP та Computer Vision. Гарантуємо якість: кожен етап проходить валідацію на реальних даних. Отримайте рішення, яке не просто «лайк-дизлайк», а повноцінний детектор емоцій з акцентом на action.

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.