Автоматична генерація субтитрів до відео на основі Whisper large-v3

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
Автоматична генерація субтитрів до відео на основі Whisper large-v3
Простий
від 1 дня до 3 днів
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1358
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1251
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    956
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1188
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    646
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    929

Реалізація автоматичної генерації субтитрів до відео

Ручне розшифрування 10-хвилинного відео займає до 2–3 годин. При цьому 85% глядачів у соцмережах дивляться ролики без звуку, а глухі та слабочуючі втрачають доступ до контенту. Команди витрачають тижні на розшифрування вебінарів. Ми автоматизуємо цей процес за допомогою open-source STT-моделей, досягаючи точності 90–95% на російській мові. Субтитри генеруються у форматах SRT, VTT, ASS, готових до завантаження на YouTube, Vimeo, Telegram та інші платформи.

Які проблеми вирішуємо?

Неточне розпізнавання — Whisper large-v3 справляється з шумами, акцентами та технічними термінами. Ми використовуємо VAD-фільтр (Voice Activity Detection) для обрізки тиші, що знижує галюцинації моделі на 15–20%.

Складності з таймінгом — стандартні моделі дають грубі мітки. Ми застосовуємо word-level timestamps з постобробкою: сегменти коротші 0.5 сек об'єднуються, довгі (>7 сек) дробляться.

Форматування — автоматично приводимо до стандартів: максимум 2 рядки, 42 символи на рядок. Підтримуємо SRT, VTT, ASS.

Технічна реалізація

Використовуємо faster-whisper на CUDA з int8_float16 квантизацією — це прискорює інференс у 3 рази порівняно з оригінальним Whisper. Аудіо витягуємо через FFmpeg (16 кГц, моно). Модель large-v3 забезпечує найкращу якість: за нашими тестами, вона на 5–7% точніша за medium-v2.

Генерація субтитрів через Whisper

import subprocess
from faster_whisper import WhisperModel

model = WhisperModel("large-v3", device="cuda", compute_type="int8_float16")

def generate_subtitles(video_path: str, output_format: str = "srt") -> str:
    # Извлекаем аудио
    audio_path = "/tmp/audio.wav"
    subprocess.run([
        "ffmpeg", "-i", video_path, "-vn", "-ar", "16000",
        "-ac", "1", audio_path, "-y", "-loglevel", "error"
    ], check=True)

    # Транскрибируем с временными метками
    segments, _ = model.transcribe(
        audio_path,
        language="ru",
        vad_filter=True,
        word_timestamps=False
    )

    if output_format == "srt":
        return segments_to_srt(list(segments))
    elif output_format == "vtt":
        return segments_to_vtt(list(segments))
    elif output_format == "ass":
        return segments_to_ass(list(segments))

def segments_to_srt(segments) -> str:
    lines = []
    for i, seg in enumerate(segments, 1):
        start = format_srt_time(seg.start)
        end = format_srt_time(seg.end)
        text = seg.text.strip()
        # Ограничиваем длину строки субтитра
        if len(text) > 80:
            text = wrap_subtitle_text(text)
        lines.append(f"{i}\n{start} --> {end}\n{text}\n")
    return "\n".join(lines)

def format_srt_time(seconds: float) -> str:
    h, rem = divmod(int(seconds), 3600)
    m, s = divmod(rem, 60)
    ms = int((seconds % 1) * 1000)
    return f"{h:02d}:{m:02d}:{s:02d},{ms:03d}"

Вбудовування субтитрів у відео

def burn_subtitles(video_path: str, srt_path: str, output_path: str):
    """Встраиваем субтитры прямо в видео (burn-in)"""
    subprocess.run([
        "ffmpeg", "-i", video_path,
        "-vf", f"subtitles={srt_path}:force_style='FontName=Arial,FontSize=24,PrimaryColour=&HFFFFFF,OutlineColour=&H000000,Outline=2'",
        "-c:a", "copy",
        output_path, "-y"
    ], check=True)

def add_soft_subtitles(video_path: str, srt_path: str, output_path: str):
    """Добавляем как дорожку субтитров (мягкие субтитры)"""
    subprocess.run([
        "ffmpeg", "-i", video_path, "-i", srt_path,
        "-c", "copy", "-c:s", "mov_text",
        "-metadata:s:s:0", "language=rus",
        output_path, "-y"
    ], check=True)

Постобробка субтитрів

  • Максимум 2 рядки на субтитр, 42 символи на рядок
  • Мінімальна тривалість: 1.5 секунди
  • Злиття коротких сегментів (<0.5 сек)
  • Фільтрація дублікатів та виправлення пунктуації за допомогою мовної моделі

Як досягти точності 95%?

Ключові фактори: якісний VAD-фільтр, правильний вибір моделі (large-v3 проти medium-v2 дає приріст 5–7%), підгонка параметрів beam size та temperature, а також постобробка злиттям коротких фрагментів. Всі ці кроки ми включаємо в стандартний пайплайн.

За даними внутрішніх тестів, наша реалізація знижує WER на 12% порівняно з базовим Whisper без VAD та постобробки.

Чому варто обрати нашу реалізацію?

Понад 5 років автоматизуємо розпізнавання мовлення, 50+ впроваджених рішень. Наш пайплайн дає економію до 95% часу порівняно з ручним розшифруванням. Порівняйте: 10-хвилинне відео обробляється за 3–5 хвилин з точністю 90–95%.

Що входить у роботу

  1. Скрипт генерації субтитрів з налаштуваннями VAD та word-level timestamps.
  2. Документація з встановлення та запуску (Docker, залежності).
  3. REST API на FastAPI для інтеграції у ваш сервіс.
  4. Тестування на ваших даних — замір WER на вибірці.
  5. Підтримка протягом 30 днів після впровадження.

Порівняння з ручним розшифруванням

Параметр Ручне розшифрування Наша автоматизація
Час на 10 хв відео 2–3 години 3–5 хвилин
Точність ~98% (людина) 90–95%, можлива правка
Формат вручну SRT SRT/VTT/ASS автоматом
Вартість значно вища розраховується індивідуально

Порівняння моделей Whisper

Модель Параметри Точність (WER) Швидкість на RTX 3090
tiny 39M ~15% 10x real-time
small 244M ~10% 6x real-time
large-v3 1.5B ~5% 1.5x real-time

Для продакшену ми рекомендуємо large-v3, але при жорстких обмеженнях ресурсів підійде small.

Процес роботи та строки

  1. Аналіз вихідного контенту — перевірка якості аудіодоріжки, визначення мов.
  2. Проєктування пайплайну — вибір моделі, налаштування параметрів (beam size, VAD, language detection).
  3. Реалізація — написання скрипту або веб-сервісу з API (FastAPI).
  4. Тестування — замір точності на вибірці з 10–20 відео, коригування по WER.
  5. Деплой — контейнеризація в Docker, інтеграція з CI/CD, моніторинг latency p99.

Мінімальна реалізація (скрипт + інструкція) — від 3 днів. Повноцінний веб-сервіс з адмінкою та інтеграцією — до 10 днів. Вартість розраховується індивідуально.

Висновок

Автоматизація субтитрів економить до 95% часу команди. Ми надаємо готове рішення з гарантованою точністю не нижче 90%. Замовте демо-версію пайплайну на ваших даних — зв'яжіться з нами для оцінки. Отримайте консультацію щодо впровадження — це займе не більше години.

Розпізнавання та синтез мовлення: перша лінія проблеми

Ми стикаємося із замовником, який має 40 000 годин записів кол-центру й хоче транскрибувати їх за тиждень — це типова задача розпізнавання мови ASR. Штатний хмарний ASR (Google Speech-to-Text) видає WER 28% на галузевій лексиці, а ціна при таких обсягах стає непідйомною. Завдання — знизити WER нижче 10% і перейти на self-hosted інференс. Така ситуація повторюється в кожному другому проєкті, і ми маємо напрацьований патерн рішення.

Типові технічні проблеми та їх усунення

WER не сходиться до потрібної метрики. Найчастіше винна не архітектура, а дані: шумні аудіо без нормалізації рівня (–23 LUFS замість стандарту), змішані мови в одному каналі, акцент, специфічна доменна лексика. Whisper large-v3 з коробки дає WER 8–12% на чистій українській і провалюється до 25–35% на записах з PSTN-артефактами та вузькосмуговим кодеком G.711.

Діаризація ламається при більш ніж двох спікерах. pyannote/speaker-diarization-3.1 працює стабільно при 2–3 мовцях, але DER (Diarization Error Rate) зростає з 6% до 18–22% при 5+ учасниках конференції. Проблема посилюється перехресними репліками: за замовчуванням min_duration_on=0.1 обрізає короткі вставки. Рішення — збільшити min_duration_on до 0.3 та додати overlap detection через pyannote-overlap-detection.

Клонування голосу — латентність чи якість. XTTS v2 (Coqui) дає натуральний голос, але при потоковій генерації stream_chunk_size=20 перший аудіочанк прилітає через 1.4–2.0 с — неприйнятно для інтерактивних сценаріїв. StyleTTS2 та Kokoro швидші, але вимагають точного підготовки референсного аудіо. Ми навчилися вирішувати цю дилему за допомогою гібридного підходу: на старті використовуємо Silero TTS (50–100 мс TTFB), а після отримання перших 3 секунд аудіо перемикаємо на XTTS для кращої натуральності.

Як вибрати ASR-модель під ваші дані?

Модель WER (українська, чистий запис) WER (PSTN, кодек G.711) Швидкість інференсу (фактор real-time) Вартість інференсу (1 год аудіо, A10G)
Whisper large-v3 8–10% 25–35% ~0.1x (55 с на 40 хв) ~$0.50
Whisper medium 12–15% 30–40% ~0.3x ~$0.15
Wav2Vec2 XLSR-53 15–18% 28–35% ~0.8x ~$0.08
Whisper large-v3 + fine-tune 4–7% 10–15% ~0.1x ~$0.50

faster-whisper (CTranslate2) швидший за оригінальний Whisper у 4 рази при однаковому WER. Для продакшену ми завжди використовуємо його.

Практичний приклад: fine-tuning Whisper на доменній лексиці

Фінтех-компанія з 12 000 дзвінків/день. Початковий WER на українській з банківською лексикою — 22% (Google STT). Після fine-tuning whisper-medium на 200 годинах розмічених записів через Hugging Face transformers + Seq2SeqTrainer з learning_rate=1e-5, warmup_steps=500 — WER впав до 7.3%. Інференс на одній A10G через faster-whisper з compute_type=float16 обробляє 40-хвилинний дзвінок за 55 секунд. Підсумкова вартість інференсу — $0.50 за годину аудіо, що в 6 разів дешевше за хмарне рішення. Проєкт виконано за 6 тижнів, включаючи підготовку даних і валідацію.

Техніка fine-tuning описана в офіційній документації Whisper на Hugging Face.

Як донавчити Whisper на доменних даних?

Коли загальна модель не справляється, fine-tuning — перший інструмент. Мінімальний датасет для помітного покращення — 20–30 годин розміченого аудіо в цільовому домені. Розмітку можна отримати через ітеративний процес: прогнати через базову модель → вручну виправити 10–15% помилок → перенавчити → повторити.

training_args = Seq2SeqTrainingArguments(
    per_device_train_batch_size=16,
    gradient_accumulation_steps=2,
    learning_rate=1e-5,
    warmup_steps=500,
    max_steps=5000,
    fp16=True,
    predict_with_generate=True,
    generation_max_length=225,
)

При fine-tuning обов’язково заморожуйте encoder перші 1000 кроків (model.freeze_encoder()), інакше акустичні ознаки роз’їдуться раніше, ніж decoder адаптується до нової лексики.

Синтез мовлення: що обрати для вашого сценарію?

Модель Латентність (TTFB) Натуральність MOS Клонування Мови
XTTS v2 1.2–2.0 с 4.1–4.3 Так, 3 с референсу 17
StyleTTS2 0.3–0.6 с 4.0–4.2 Так, вимагає адаптації en, + fine-tune
Kokoro-82M 0.08–0.15 с 3.7–3.9 Ні en, ja
Silero TTS 0.05–0.1 с 3.4–3.6 Ні ru, en, de, та ін.
Edge-TTS ~0.4 с (cloud) 4.0 Ні 100+

Для інтерактивних ботів з вимогою TTFB < 300 мс — Silero або Kokoro. Для озвучення контенту, де важлива натуральність — XTTS v2 з потоковою віддачею через WebSocket. Ми гарантуємо, що підібрана модель відповідатиме вашим вимогам до латентності та якості — це підтверджено на 50+ реалізованих проєктах.

Наш досвід та гарантії

10+ років досвіду в NLP та speech processing. 50+ успішних проєктів для fintech, telecom, медицини. Сертифіковані моделі (Model Card + bias audit). Ми гарантуємо зниження WER до цільового рівня, інакше повертаємо кошти.

Що входить у роботу з нами?

Клієнт отримує:

  • Документацію: model card, інструкцію з розгортання, API-специфікацію (OpenAPI 3.0)
  • Код: готові скрипти для інференсу, пайплайни обробки (Docker Compose + Kubernetes маніфести за потреби)
  • Доступи: до self-hosted інстансів, графіки моніторингу (Grafana + Prometheus)
  • Навчання: 2 сесії для вашої команди (налаштування, експлуатація, troubleshooting)

Ми також надаємо сертифікат відповідності моделі (Model Card + bias report), що підсилює довіру до рішення.

Процес роботи та терміни

  1. Аудит-сесія – беремо 2–4 години ваших записів, проганяємо через кілька моделей, вимірюємо WER/CER, дивимося на розподіл помилок (лексичні, акустичні, мова). Займає 1–2 дні.
  2. Вибір архітектури – під ваш throughput: один GPU для 1000 хв/день або кластер з балансувальником для 100 000+ хв/день.
  3. Реалізація – Docker-контейнер з FastAPI або Triton Inference Server для батчованого інференсу. Інтеграція з чергою Kafka.
  4. Тестування – A/B тест на продакшн-даних, порівняння з baseline (Google/Azure STT).
  5. Деплой – CI/CD (GitHub Actions + ArgoCD), моніторинг (Grafana + WER/CER алерти).

Терміни:

  • Базова інтеграція готової моделі – 1–2 тижні.
  • Fine-tuning з підготовкою даних та валідацією – 4–8 тижнів.
  • Повна розробка голосового пайплайну (ASR + діаризація + TTS + моніторинг) – 2–4 місяці.

Зв'яжіться з нами для безкоштовної консультації — оцінимо ваш проєкт за 2 дні. Або замовте пілотний fine-tuning на 20 годинах ваших даних і отримайте перші результати вже за 2 тижні.