Text-to-Speech система: синтез речи с кастомизацией голоса

Проектируем и внедряем системы искусственного интеллекта: от прототипа до production-ready решения. Наша команда объединяет экспертизу в машинном обучении, дата-инжиниринге и MLOps, чтобы AI работал не в лаборатории, а в реальном бизнесе.
Показано 1 из 1Все 1564 услуг
Text-to-Speech система: синтез речи с кастомизацией голоса
Средний
от 1 недели до 3 месяцев
Часто задаваемые вопросы

Направления AI-разработки

Этапы разработки AI-решения

Последние работы

  • image_website-b2b-advance_0.webp
    Разработка сайта компании B2B ADVANCE
    1358
  • image_web-applications_feedme_466_0.webp
    Разработка веб-приложения для компании FEEDME
    1250
  • image_websites_belfingroup_462_0.webp
    Разработка веб-сайта для компании БЕЛФИНГРУПП
    956
  • image_ecommerce_furnoro_435_0.webp
    Разработка интернет магазина для компании FURNORO
    1188
  • image_logo-advance_0.webp
    Разработка логотипа компании B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Разработка веб-приложения для компании Enviok
    929

Text-to-Speech система: синтез речи с кастомизацией голоса

Вы запускаете голосового ассистента. Первая проблема — задержка синтеза: если latency превышает 500 мс, пользователи сбрасывают звонок. Вторая — неестественный голос снижает доверие. Разработка TTS-системы — это не просто выбор движка, а интеграция с учётом latency, стоимости и кастомизации. Наши инженеры имеют 10+ лет опыта в NLP и аудиообработке, за это время мы запустили 5 крупных TTS-систем для банков и телеком-операторов. После кастомизации XTTS v2 под голос ведущего удержание звонков выросло на 22%.

Современные нейронные синтезаторы, такие как Coqui XTTS v2 и ElevenLabs, генерируют речь, неотличимую от человеческой. Задержка — 200–500 мс. Self-hosted решение с кастомным голосом на 40% качественнее облачного generic-синтеза по MOS. При объёме свыше 100 000 генераций в месяц self-hosted обходится на 30% дешевле облачного.

Как выбрать TTS-движок для продакшена?

Выбор зависит от сценария. Для голосового бота критична низкая задержка — подойдут Azure Speech или Yandex SpeechKit. Для аудиокниг и контента нужно максимальное качество — Coqui XTTS или ElevenLabs.

Облачный TTS — быстрый старт, предсказуемое качество:

  • OpenAI TTS: лучшее качество на английском, хорошее на русском
  • ElevenLabs: самое натуральное звучание, клонирование голоса
  • Yandex SpeechKit: оптимален для русскоязычных продуктов

Self-hosted TTS — контроль данных, предсказуемая стоимость:

  • Coqui XTTS v2: мультиязычный, клонирование из 6 секунд
  • Piper: легковесный, CPU-capable, хорошее качество на русском
  • Silero TTS: российский open-source, отличный русский

Сравнение облачного vs self-hosted:

Параметр Облачный Self-hosted
Латентность 100-300 мс 200-500 мс (с GPU)
Стоимость За токены/звук Фиксированная (GPU)
Контроль данных Нет Полный
Кастомизация Ограничена Полный fine-tuning

Что даёт кастомизация голоса?

Стандартные голоса не подходят для брендов. Мы выполняем fine-tuning предобученной модели на 10–30 минутах записи диктора. Результат — уникальный голос с сохранением интонаций и дикции. Качество такого голоса на 40% выше generic-синтеза по оценке пользователей (MOS). Пример: голосовой ассистент для банка после кастомизации XTTS v2 под голос ведущего повысил удержание звонков на 22%.

Типичные ошибки при разработке TTS

  • Отсутствие нормализации текста: числа, даты, аббревиатуры должны быть преобразованы. Без этого "15 000 руб." звучит как "пятнадцать тысяч рублей" нечитаемо.
  • Игнорирование пауз и пунктуации: TTS без расстановки пауз звучит неестественно, особенно в длинных предложениях.
  • Неучёт latency при выборе движка: для IVR критично <200 мс, для аудиокниг можно 500+.
  • Экономия на GPU для self-hosted: без GPU latency >1 с, что неприемлемо для интерактивных сценариев.

Как мы строим TTS-систему: процесс

  1. Анализ сценария и требований — замеры latency, бюджет, язык.
  2. Выбор и тестирование движка — облачные, self-hosted, кастомные.
  3. Разработка API и интеграция — FastAPI, очередь задач (Celery), кэширование.
  4. Кастомизация голоса — сбор данных, fine-tuning, оценка MOS.
  5. Нагрузочное тестирование — p99 latency, throughput, GPU utilization.
  6. Деплой и мониторинг — Docker, Prometheus, Grafana.

Базовая реализация с FastAPI

from fastapi import FastAPI
from fastapi.responses import StreamingResponse
import io
import soundfile as sf
from TTS.api import TTS

app = FastAPI()
tts = TTS("tts_models/multilingual/multi-dataset/xtts_v2")

@app.post("/synthesize")
async def synthesize(text: str, language: str = "ru"):
    wav = tts.tts(
        text=text,
        language=language,
        speaker_wav="reference_voice.wav"  # для клонирования
    )

    buffer = io.BytesIO()
    sf.write(buffer, wav, samplerate=24000, format='WAV')
    buffer.seek(0)

    return StreamingResponse(buffer, media_type="audio/wav")

Preprocessing текста

Перед подачей в TTS обязателен нормализатор: расшифровка аббревиатур, чисел, дат:

def normalize_for_tts(text: str, language: str = "ru") -> str:
    # числа: "15 000 руб." → "пятнадцать тысяч рублей"
    # аббревиатуры: "ООО" → "общество с ограниченной ответственностью"
    # даты: преобразуются по правилам языка
    ...

Сроки ориентировочно

  • Базовая интеграция облачного TTS: от 2 до 3 дней
  • Self-hosted с очередью и кэшированием: от 1 недели
  • Полная система с кастомным голосом: от 3 до 4 недель

Стоимость рассчитывается индивидуально после анализа вашего сценария.

Что входит в работу

  • Техническая документация архитектуры
  • Доступ к репозиторию с кодом
  • Инструкция по развёртыванию
  • Обучение команды (1–2 сессии)
  • Поддержка в течение месяца после сдачи

Опыт и гарантии

5 лет на рынке, 20+ проектов по голосовым интерфейсам. Гарантируем стабильность синтеза при нагрузке до 10 000 запросов/день. Сертификаты: совместимость с Kubernetes, опыт работы с NVIDIA Triton. Свяжитесь с нами для оценки вашего проекта. Закажите разработку TTS-системы с кастомным голосом — получите консультацию по движкам и срокам.

Дополнительную информацию о технологиях можно найти на странице Speech synthesis в Wikipedia.

Распознавание и синтез речи: ASR, TTS, клонирование голоса

Заказчик приходит с задачей: транскрибировать 40 000 часов колл-центра за неделю. Штатный облачный ASR (Google Speech-to-Text) выдаёт WER 28% на отраслевой лексике и стоит ощутимо дорого при таких объёмах. Задача — снизить WER ниже 10% и перейти на self-hosted инференс.

Типовые проблемы, с которыми приходят

WER не сходится к нужной метрике. Чаще всего виновата не архитектура, а данные: шумные аудио без нормализации уровня (-23 LUFS вместо стандарта), смешанные языки в одном канале, акцент, специфическая доменная лексика. Whisper large-v3 из коробки даёт WER 8–12% на чистом русском и проваливается до 25–35% на записях с PSTN-артефактами и узкополосным кодеком G.711.

Диаризация ломается при больше двух спикеров. pyannote/speaker-diarization-3.1 работает стабильно при 2–3 говорящих, но DER (Diarization Error Rate) растёт с 6% до 18–22% при 5+ участниках конференции. Проблема усугубляется перекрёстными репликами: по умолчанию min_duration_on=0.1 срезает короткие вставки.

Клонирование голоса — латентность или качество. XTTS v2 (Coqui) даёт натуральный голос, но при потоковой генерации stream_chunk_size=20 первый аудиочанк прилетает через 1.4–2.0 с — неприемлемо для интерактивных сценариев. StyleTTS2 и Kokoro быстрее, но требуют точной подготовки референсного аудио.

Как это решается на практике

Базовый стек для production-пайплайна:

  • ASR: openai/whisper-large-v3 или faster-whisper (CTranslate2-бэкенд, x4 скорость vs оригинал)
  • Диаризация: pyannote.audio 3.x + интеграция через whisperx для выравнивания по словам
  • TTS: XTTS v2 для качества, Edge-TTS или Silero для низкой латентности
  • Клонирование: XTTS v2 (3–6 с референсного аудио) или OpenVoice v2

Типичный пайплайн для колл-центра выглядит так: аудио из очереди Kafka → нормализация ffmpeg -af loudnorm до -23 LUFS → faster-whisper с beam_size=5, vad_filter=Truepyannote диаризация → постпроцессинг (пунктуация через deepmultilingualpunctuation) → запись в PostgreSQL с временными метками.

Кейс из практики. Финтех-компания с 12 000 звонков/день. Исходный WER на русском с банковской лексикой — 22% (Google STT). После fine-tuning whisper-medium на 200 часах размеченных записей через Hugging Face transformers + Seq2SeqTrainer с learning_rate=1e-5, warmup_steps=500 — WER упал до 7.3%. Инференс на одной A10G через faster-whisper с compute_type=float16 обрабатывает 40-минутный звонок за 55 секунд. Итоговая стоимость инференса — $0.0008/мин против $0.016/мин у облачного провайдера.

Дообучение Whisper на доменных данных

Когда общая модель не справляется, fine-tuning — первый инструмент. Минимальный датасет для заметного улучшения — 20–30 часов размеченного аудио в целевом домене. Разметку можно получить через итеративный процесс: прогнать через базовую модель → вручную исправить 10–15% ошибок → переобучить → повторить.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

Важно: при fine-tuning Whisper нужно замораживать encoder первые 1000 шагов (model.freeze_encoder()), иначе акустические признаки разъедутся раньше, чем decoder адаптируется к новой лексике.

Синтез речи: выбор под задачу

Модель Латентность (TTFB) Натуральность MOS Клонирование Языки
XTTS v2 1.2–2.0 с 4.1–4.3 Да, 3 с референса 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Да, требует адаптации en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Нет en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Нет ru, en, de, и др.
Edge-TTS ~0.4 с (cloud) 4.0 Нет 100+

Для интерактивных ботов с требованием TTFB < 300 мс — Silero или Kokoro. Для озвучки контента, где важна натуральность — XTTS v2 с потоковой отдачей через WebSocket.

Процесс работы

Начинаем с аудит-сессии: берём 2–4 часа ваших записей, прогоняем через несколько моделей, замеряем WER/CER, смотрим на распределение ошибок по типам (лексические, акустические, язык). Это занимает 1–2 дня и сразу показывает, нужен ли fine-tuning или достаточно пост-обработки.

Далее — выбор архитектуры под ваш throughput: один GPU для 1000 мин/день или кластер с балансировщиком для 100 000+ мин/день. Деплой через Docker-контейнер с FastAPI или Triton Inference Server для батчированного инференса.

Сроки зависят от сложности: базовая интеграция готовой модели — 1–2 недели. Fine-tuning с подготовкой данных и валидацией — 4–8 недель. Полная разработка голосового пайплайна (ASR + диаризация + TTS + мониторинг) — 2–4 месяца.