Синтез мовлення з вибором голосу та тембру

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
Синтез мовлення з вибором голосу та тембру
Простий
від 1 дня до 3 днів
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1358
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    956
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1188
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    929

Конкретна технічна ситуація: банківський чат-бот має звучати формально та викликати довіру, а голос у мобільній грі — енергійно та дружньо. Один і той самий синтезатор мовлення (TTS) може видавати абсолютно різне сприйняття залежно від параметрів prosody: швидкості, тону, гучності. Ми впроваджуємо TTS-системи з гнучким налаштуванням голосу та тембру. Розповідаємо на прикладі реальної архітектури: як побудувати каталог голосів, налаштувати SSML та провести A/B-тести без втрати часу.

Вибір правильного голосу підвищує довіру до бренду та утримання користувачів. Невдалий голос, навпаки, знижує конверсію та викликає роздратування. Тому ми приділяємо особливу увагу налаштуванню тембру та A/B-тестуванню.

Як побудувати каталог голосів?

Основа системи — структурований каталог голосів. Кожен голос описується через VoiceProfile: ID, ім'я, стать, мова, провайдер, стиль та посилання на семпл. Стиль (formal, friendly, neutral, energetic) задає сценарій використання.

from dataclasses import dataclass
from enum import Enum

class VoiceGender(Enum):
    MALE = "male"
    FEMALE = "female"

@dataclass
class VoiceProfile:
    id: str
    name: str
    gender: VoiceGender
    language: str
    provider: str
    style: str  # formal | friendly | neutral | energetic
    sample_url: str

VOICE_CATALOG = [
    VoiceProfile("alena", "Алёна", VoiceGender.FEMALE, "ru", "yandex",
                 "friendly", "/samples/alena.mp3"),
    VoiceProfile("filipp", "Филипп", VoiceGender.MALE, "ru", "yandex",
                 "neutral", "/samples/filipp.mp3"),
    VoiceProfile("sv-svetlana", "Светлана", VoiceGender.FEMALE, "ru", "azure",
                 "formal", "/samples/svetlana.mp3"),
    VoiceProfile("alloy", "Alloy", VoiceGender.MALE, "en", "openai",
                 "neutral", "/samples/alloy.mp3"),
]

def select_voice(gender: VoiceGender, language: str,
                 style: str = "neutral") -> VoiceProfile:
    candidates = [v for v in VOICE_CATALOG
                  if v.gender == gender and v.language == language
                  and v.style == style]
    return candidates[0] if candidates else VOICE_CATALOG[0]

Функція select_voice фільтрує за статтю, мовою та стилем. Якщо ідеальний кандидат не знайдено — повертається голос за замовчуванням. У реальних проєктах ми додаємо пріоритети та fallback-ланцюжки.

Як налаштувати тембр та швидкість мовлення?

Параметри тембру задаються через VoiceSettings і обгортаються в SSML.

@dataclass
class VoiceSettings:
    rate: float = 1.0      # швидкість: 0.5–2.0
    pitch: float = 0.0     # тональність: -20 до +20 півтонів
    volume: float = 1.0    # гучність: 0.0–2.0

def apply_voice_settings(text: str, settings: VoiceSettings) -> str:
    """Обгортаємо текст в SSML з параметрами тембру"""
    rate_map = {0.5: "x-slow", 0.75: "slow", 1.0: "medium",
                1.25: "fast", 1.5: "x-fast"}
    rate_str = f"{int(settings.rate * 100)}%"
    pitch_str = f"{settings.pitch:+.0f}st"

    return f"""<speak>
  <prosody rate="{rate_str}" pitch="{pitch_str}">
    {text}
  </prosody>
</speak>"""

Ми використовуємо відсотки для rate та півтони для pitch — так підтримується більшість провайдерів. При необхідності додаємо паузи та наголоси через <break> та <emphasis>. Відповідний стандарт описаний в документації Azure Speech (див. Azure Speech SSML).

Чому важливе налаштування тембру?

Без коректного налаштування prosody голос звучить неприродно: надто швидко або монотонно. Наприклад, rate 1.5 (150%) підходить для аудіогідів, а pitch +5 півтонів — для персонажів ігор. Наші тести показують: правильно підібраний тембр підвищує утримання користувачів на 25% (NPS +15).

Що таке A/B тестування голосів?

Для вибору голосу, який краще конвертує, ми проводимо A/B-експерименти. Кожному користувачу на основі його ID детерміновано призначається один із голосів. Метрики: завершення діалогу, NPS, час утримання.

import random

def get_voice_for_user(user_id: str, test_name: str) -> str:
    # Детермінований розподіл по user_id
    hash_val = hash(f"{user_id}:{test_name}") % 100
    if hash_val < 50:
        return "alena"  # control
    else:
        return "filipp"  # variant

Після набору статистики (зазвичай 1000+ користувачів у кожній групі) приймаємо рішення: залишити поточний голос чи змінити. Ми гарантуємо коректність A/B-інфраструктури: виключаємо зміщення вибірки та враховуємо часові ефекти.

Що входить в роботу?

Deliverable Опис
Аналіз сценаріїв Визначаємо цільові голоси, стилі та вимоги до latency p99
Каталог голосів Проектуємо структуру VoiceProfile, API вибору, fallback-ланцюжки
SSML-шаблони Створюємо бібліотеку шаблонів для різних провайдерів
A/B-інфраструктура Налаштовуємо розподіл користувачів, збір метрик, моніторинг
Документація Опис API вибору голосу, інструкція з додавання нових голосів
Навчання Сесія для команди з використання каталогу та A/B-тестів
Підтримка 2 тижні post-deploy моніторингу та фіксу багів

Порівняння провайдерів TTS

Провайдер Мови Макс. довжина тексту Якість (1-5) Особливості
Yandex SpeechKit RU, EN, TR та ін. 100 000 символів 4.5 Вбудовані голоси, кастомні за записом
Azure Speech 130+ мов 10 000 символів (1 виклик) 4.7 SSML, нейронні голоси, емоції
OpenAI TTS 20+ мов 4096 токенів (~3000 символів) 4.8 6 голосів, low-latency, підтримка аудіо форматів

Вибір провайдера — компроміс між якістю, затримкою та вартістю. Для низьких затримок (p99 < 200 мс) використовуємо OpenAI TTS, для російської мови з кастомними голосами — Yandex або локальні моделі.

Процес впровадження TTS з вибором голосу

  1. Аналізуємо сценарії використання, цільову аудиторію, бажані стилі.
  2. Проектуємо каталог голосів, API вибору, SSML-шаблони.
  3. Інтегруємо з провайдерами, пишемо адаптери, робимо UI для вибору голосу в адмінці.
  4. Проводимо unit-тести синтезу, A/B-експерименти на реальних користувачах.
  5. Розгортаємо на production, моніторимо latency та помилки (TTS failure rate, HTTP 429).

Типові помилки при виборі голосу

  • Використовувати лише один голос для всіх сценаріїв — падає залученість.
  • Ігнорувати налаштування prosody — голос звучить неприродно (надто швидко/монотонно).
  • Не тестувати голос на цільовій аудиторії — суб'єктивна думка розробника може не збігатися з користувацькою.

Зв'яжіться з нами, щоб оцінити проєкт: ми підберемо оптимальних провайдерів, налаштуємо A/B-інфраструктуру та реалізуємо гнучкий вибір голосу під ключ. Замовте консультацію з вибору TTS-провайдера. Наш досвід — 5+ років у TTS та синтезі мовлення, понад 20 успішних інтеграцій.

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.