AI-замена фона на видео — разработка и интеграция под ключ

Разработка AI для замены фона в видео

Замена фона в видео — задача сложнее, чем в статичных изображениях: нужна временная согласованность между кадрами (temporal coherence), иначе фон будет мерцать. Мы реализуем системы для видеоконференций (Zoom, Teams), спортивных трансляций и новостных студий без хромакея. Realtime-требования для конференций — 15–30 FPS при задержке <50 мс на CPU/GPU с низким энергопотреблением.

Почему temporal coherence критична для видео?

Каждый кадр обрабатывается независимо, но без учёта предыдущих кадров маска фона может резко меняться, создавая артефакты. Temporal coherence устраняет мерцание, используя рекуррентные нейронные сети. RVM (Robust Video Matting) — одна из лучших моделей, явно хранящая скрытое состояние между кадрами. Подробнее о RVM можно прочитать в официальной документации.

Как мы добиваемся temporal coherence?

Ключевое решение — RVM с рекуррентным состоянием. Модель хранит скрытые векторы между кадрами, что устраняет мерцание. Наш опыт показывает, что этот подход даёт плавную маску даже на сложных сценах с движением камеры. Например, в одном из проектов для стриминговой платформы мы внедрили RVM MobileNetV3 — замена фона работала на 30 FPS на ноутбуке без GPU.

import torch
import torchvision.transforms as T
from PIL import Image
import numpy as np
import cv2

class VideoBackgroundReplacer:
    def __init__(self, model_path: str, device: str = 'cuda'):
        self.device = device
        # RVM с recurrent state — ключ к temporal coherence
        self.model = torch.jit.load(model_path).to(device)
        self.model.eval()
        self.transform = T.ToTensor()
        # Recurrent state сохраняется между кадрами
        self.rec = [None] * 4

    def reset_state(self):
        """Сбросить состояние при смене сцены/источника"""
        self.rec = [None] * 4

    @torch.no_grad()
    def process_frame(self, frame_bgr: np.ndarray,
                       background_bgr: np.ndarray) -> np.ndarray:
        """
        Обработка одного кадра видео.
        Состояние (rec) сохраняется между вызовами для плавности.
        """
        frame_rgb = cv2.cvtColor(frame_bgr, cv2.COLOR_BGR2RGB)
        bg_rgb = cv2.cvtColor(background_bgr, cv2.COLOR_BGR2RGB)

        # Изменяем размер до кратного 64 для модели
        h, w = frame_rgb.shape[:2]
        src = self.transform(Image.fromarray(frame_rgb)).unsqueeze(0).to(self.device)
        bgr_tensor = self.transform(
            Image.fromarray(bg_rgb).resize((w, h))
        ).unsqueeze(0).to(self.device)

        # Основной вывод с передачей recurrent state
        fgr, pha, *self.rec = self.model(src, *self.rec, downsample_ratio=0.25)

        # Compositing
        composite = fgr * pha + bgr_tensor * (1 - pha)
        result = (composite.squeeze().permute(1, 2, 0).cpu().numpy() * 255).astype(np.uint8)
        return cv2.cvtColor(result, cv2.COLOR_RGB2BGR)

    def replace_in_video(self, input_path: str,
                          background_path: str,
                          output_path: str) -> dict:
        cap = cv2.VideoCapture(input_path)
        fps = cap.get(cv2.CAP_PROP_FPS)
        w = int(cap.get(cv2.CAP_PROP_FRAME_WIDTH))
        h = int(cap.get(cv2.CAP_PROP_FRAME_HEIGHT))

        # Загружаем фон (может быть изображение или видео)
        if background_path.endswith(('.jpg', '.png')):
            bg = cv2.imread(background_path)
            bg = cv2.resize(bg, (w, h))
            bg_is_video = False
        else:
            bg_cap = cv2.VideoCapture(background_path)
            bg_is_video = True

        out = cv2.VideoWriter(output_path,
                              cv2.VideoWriter_fourcc(*'mp4v'),
                              fps, (w, h))

        self.reset_state()
        frame_count = 0

        while cap.isOpened():
            ret, frame = cap.read()
            if not ret:
                break

            if bg_is_video:
                ret_bg, bg = bg_cap.read()
                if not ret_bg:
                    bg_cap.set(cv2.CAP_PROP_POS_FRAMES, 0)
                    _, bg = bg_cap.read()
                bg = cv2.resize(bg, (w, h))

            result = self.process_frame(frame, bg)
            out.write(result)
            frame_count += 1

        cap.release()
        out.release()

        return {'frames': frame_count, 'fps': fps, 'output': output_path}

Какие модели обеспечивают realtime на CPU?

Для CPU без GPU мы используем ONNX Runtime с оптимизациями. В проекте для видеоконференций мы добились 30 FPS на ноутбуке Intel i5, применив квантизацию INT8 и уменьшение разрешения до 256x144. ONNX Runtime позволяет запускать модели на различных устройствах с минимальными изменениями.

import onnxruntime as ort

class RealtimeBackgroundProcessor:
    """
    ONNX Runtime для CPU-оптимизации на машинах без GPU.
    Target: 30 FPS на ноутбуке, задержка <33 мс/кадр.
    """
    def __init__(self, onnx_model_path: str):
        # Настройки для максимальной производительности на CPU
        opts = ort.SessionOptions()
        opts.intra_op_num_threads = 4
        opts.execution_mode = ort.ExecutionMode.ORT_SEQUENTIAL
        opts.graph_optimization_level = ort.GraphOptimizationLevel.ORT_ENABLE_ALL

        self.session = ort.InferenceSession(
            onnx_model_path,
            sess_options=opts,
            providers=['TensorrtExecutionProvider',
                       'CUDAExecutionProvider',
                       'CPUExecutionProvider']
        )

        # Recurrent state как numpy массивы
        self.rec_states = [
            np.zeros((1, 1, 1, 1), dtype=np.float32) for _ in range(4)
        ]

    def process_frame_fast(self, frame_rgb: np.ndarray,
                             target_size: tuple = (256, 144)) -> np.ndarray:
        """
        Уменьшаем до 256x144 для CPU realtime.
        Upscale маски обратно через билинейную интерполяцию.
        """
        orig_h, orig_w = frame_rgb.shape[:2]
        small = cv2.resize(frame_rgb, target_size)
        small_f = small.astype(np.float32) / 255.0
        src = small_f.transpose(2, 0, 1)[np.newaxis]  # [1, 3, H, W]

        outputs = self.session.run(
            None,
            {'src': src, 'r1i': self.rec_states[0], 'r2i': self.rec_states[1],
             'r3i': self.rec_states[2], 'r4i': self.rec_states[3],
             'downsample_ratio': np.array([0.25])}
        )
        fgr, pha = outputs[0], outputs[1]
        self.rec_states = list(outputs[2:6])

        # Апскейл маски обратно до исходного размера
        alpha_small = pha[0, 0]
        alpha_full = cv2.resize(alpha_small, (orig_w, orig_h),
                                interpolation=cv2.INTER_LINEAR)
        return alpha_full

Виртуальный размытый фон (Bokeh effect)

def apply_background_blur(frame: np.ndarray,
                            alpha: np.ndarray,
                            blur_radius: int = 25) -> np.ndarray:
    """
    Альтернатива замене — размытие фона (как в Google Meet/Teams).
    Не требует загрузки изображения, работает быстрее.
    """
    # Размываем весь кадр
    blurred = cv2.GaussianBlur(frame, (blur_radius * 2 + 1, blur_radius * 2 + 1), 0)

    # Compositing с мягкими краями
    alpha_3ch = np.stack([alpha, alpha, alpha], axis=2)
    result = (frame * alpha_3ch + blurred * (1 - alpha_3ch)).astype(np.uint8)
    return result

Сравнение моделей: какая лучше?

RVM лучше MediaPipe в 2–3 раза по качеству маски, но требует GPU для realtime. Background Matting V2 даёт лучшее качество, но медленнее. Выбор зависит от вашего сценария: для стримов подойдёт RVM MobileNetV3, для офлайн-продакшена — ResNet50.

Типичные ошибки при интеграции AI-замены фона

Что входит в работу?

Мы предоставляем:

• Анализ вашего сценария и выбор модели
• Интеграцию в вашу инфраструктуру (API, WebRTC, мобильное приложение)
• Оптимизацию под целевое железо (CPU/GPU/Edge)
• Документацию и обучение команды
• Поддержку после внедрения

Свяжитесь с нами для аудита вашего проекта — мы оценим требования и предложим оптимальное решение.

Как выбрать модель для замены фона?

При выборе модели учитывайте: целевое оборудование (CPU/GPU), требуемое разрешение и FPS, допустимую задержку. Для мобильных устройств лучше подходит MediaPipe, для продакшена — RVM с ONNX. Мы поможем подобрать конфигурацию и оптимизировать под ваш сценарий.

Процесс работы

1. Аналитика: изучаем требования к FPS, задержкам, качеству маски.
2. Проектирование: выбираем модель, стек (ONNX, PyTorch, TensorRT).
3. Реализация: пишем код интеграции, добавляем рекуррентное состояние.
4. Тестирование: замеряем latency p99, FLOPS, проверяем на разных сценах.
5. Деплой: разворачиваем на ваших серверах или в облаке.

Сроки и стоимость

Ориентировочные сроки:

• Интеграция RVM для видеофайлов: 1–2 недели.
• Realtime плагин для видеоконференций: 4–8 недель.
• Мобильное приложение: 8–14 недель.

Стоимость рассчитывается индивидуально после аудита проекта. У нас более 5 лет опыта в AI/ML, мы реализовали свыше 30 проектов по компьютерному зрению. Гарантируем качество маски и соблюдение сроков. Закажите разработку под ключ — получите готовое решение с гарантией.

Как distribution shift убивает метрики CV-модели в промышленности

На производстве ставят камеру, контролируют качество продукции. Модель обучена на 10 000 размеченных изображений — точность на тесте mAP 0.84. Запускают в продакшен — и в первую же неделю пропускают 30 % дефектов. Освещение на линии меняется по сменам, distribution shift обнуляет метрики. Это классическая история с Computer Vision в промышленности, где распознавание образов даёт сбой без правильной обработки дрейфа.

Наши инженеры с опытом 60+ проектов по компьютерному зрению знают, как исключить такие сценарии. Гарантируем стабильную работу модели под реальными условиями.

Детекция объектов: YOLO, RT‑DETR и всё что между ними

YOLO — стандарт для real‑time детекции. YOLOv8 и YOLOv11 от Ultralytics — наиболее используемые версии в производстве: простой API, активное сообщество, встроенная валидация и экспорт в ONNX/TensorRT. Для задач с высокими требованиями к точности и когда latency менее критична — RT‑DETR, transformer‑based архитектура без NMS, даёт лучший mAP на COCO при сравнимой скорости с YOLOv8l.

Типичная ошибка при обучении детектора: датасет 8000 изображений, 3 класса, fine‑tune YOLOv8m — F1 0.73 на валидации. Смотрим confusion matrix — один класс почти никогда не детектируется. Причина: дисбаланс 1:23. Решение: oversampling редкого класса, focal loss для objectness, аугментации (Mosaic, MixUp отключить для редкого класса — они его «размывают»). Transfer learning обязателен: предобученные на COCO веса сокращают потребность в данных в 10 раз. Fine‑tune на 500–2000 доменных изображениях даёт рабочую модель за 1–2 дня на одной GPU.

Для edge deployment: экспорт в ONNX → TensorRT engine. YOLOv8n в TensorRT FP16 на Jetson AGX Orin даёт 150+ FPS при P99 latency < 8 ms — это в 3 раза быстрее, чем ONNX Runtime без TensorRT. На сервере A10G: 700+ FPS для YOLOv8n в TensorRT INT8.

Как fine‑tuning YOLO помогает в распознавании образов?

Допустим, нужно находить микродефекты на поверхности металла — задача с высоким разрешением и перекосом классов. Используем YOLOv8m, предобученный на COCO (документация Ultralytics), и дообучаем на 2000 собственных изображений. Применяем аугментации Mosaic, MixUp, random perspective. После 200 эпох mAP 0.5 достигает 0.93. Ключевые приёмы:

• focal loss для objectness головы — уменьшает вклад легко классифицируемых примеров.
• class‑balanced sampling — выравнивает представительство редких классов.
• Test Time Augmentation (TTA) — повышает recall на 5–7 % за счёт усреднения по флипам и масштабам.

Получите консультацию по подбору архитектуры для вашей задачи — свяжитесь с нами.

Сегментация: SAM, Mask R‑CNN и instance segmentation

SAM (Segment Anything Model) от Meta изменил подход к сегментации. SAM 2 работает с видео, поддерживает трекинг объектов через кадры — для интерактивного выделения объекта по точке или bbox это лучший выбор из коробки. Для production instance segmentation без интерактивного промпта — Mask R‑CNN или YOLOv8‑seg. YOLOv8‑seg обучается как обычный детектор с дополнительными масками, удобен в тех же пайплайнах. Семантическая сегментация (каждый пиксель — класс) — SegFormer, DeepLabV3+. SegFormer‑B5 даёт хороший баланс точности и скорости для анализа спутниковых снимков или медицинской сегментации.

Кейс: сегментация клеток на микроскопических изображениях. Датасет 400 изображений с ручной разметкой. Обучение Mask R‑CNN на ResNet‑50 backbone дало IoU 0.61 — плохо. Проблема: объекты (клетки) перекрываются, стандартный NMS убивает перекрывающиеся предсказания. Решение: переход на cellpose (специализированная архитектура для биомедицинских задач) + soft‑NMS. IoU вырос до 0.79.

OCR: когда Tesseract не справляется

Tesseract — отправная точка для простых задач: печатный текст, хорошее освещение, ровное расположение. Как только появляются рукописные элементы, нестандартные шрифты, перспективные искажения или многоколоночный макет — Tesseract деградирует быстро.

PaddleOCR — production‑grade решение: обнаружение текстовых блоков + распознавание + структурный анализ. Работает из коробки для 80+ языков, включая русский. Поддерживает таблицы и документы со сложной структурой. Wikipedia: Оптическое распознавание символов. TrOCR (Microsoft) — трансформерный OCR с сильными результатами на рукописном тексте. Для русского рукописного текста нужен fine‑tuning: базовая модель обучена преимущественно на латинице.

Что делать, если Tesseract не справляется с распознаванием образов на документах?

Для задач «извлеки данные из счёта / договора / паспорта» используем LayoutLMv3 или Donut — эти модели понимают layout документа, а не только текст. Интеграция через Hugging Face Transformers, fine‑tuning на 200–500 размеченных документах. Типичный pipeline:

1. Preprocessing: deskew, denoising, binarization через OpenCV.
2. Обнаружение текстовых блоков: PaddleOCR detection или CRAFT.
3. Распознавание: PaddleOCR recognition или TrOCR.
4. Post‑processing: нормализация, валидация через regex или LLM для структурированных полей.

Для документов с фиксированной структурой template matching + OCR точечно по координатам зачастую надёжнее end‑to‑end решения.

Face Recognition: идентификация и верификация

Face recognition = detection + alignment + embedding + matching. Каждый этап важен.

Detection: RetinaFace или InsightFace для точной локализации лица и ключевых точек. MTCNN — более старое, но надёжное решение. Embedding: ArcFace (InsightFace) — state‑of‑the‑art для face recognition embeddings. Модели iresnet50/iresnet100 предобучены на MS1MV3 (5M идентичностей). Эмбеддинг‑вектор 512 float32, сравнение по cosine similarity. Threshold tuning: порог решения — критический параметр. При threshold 0.6 типичный FPR на LFW benchmark — 0.001, TPR — 0.985. В production threshold нужно калибровать под реальный distribution: люди в масках, с изменившейся внешностью, в разных условиях освещения. Liveness detection обязателен: MiniFASNet — lightweight модель на CPU, FaceX‑Zoo содержит несколько предобученных liveness‑детекторов.

Видеоаналитика

Видео — последовательность кадров плюс временное измерение. Наивный подход — детектировать на каждом кадре — дорого.

Трекинг: ByteTrack и BoT‑SORT — стандарт для multi‑object tracking. Работают поверх любого детектора, добавляют persistent ID объектам между кадрами — это даёт подсчёт объектов, треки движения, velocity.

Оптимизация: не нужно обрабатывать каждый кадр. Для статичных сцен детекция на каждом 5–10 кадре, между ними — трекер. Для детекции событий (человек вошёл в зону) background subtraction (OpenCV MOG2) как lightweight pre‑filter перед нейросетевой детекцией. Action Recognition: SlowFast, VideoMAE для классификации действий. Тяжёлые модели — для production используем ONNX export + TensorRT либо оффлайн обработку.

Как измерить качество модели распознавания образов в продакшене?

Мониторинг качества — ключевой элемент MLOps. Отслеживаем:

• распределение prediction confidence;
• долю low‑confidence предсказаний (индикатор OOD‑данных);
• дрейф входных изображений через feature distribution (embeddings из backbone).

Падение средней confidence с 0.87 до 0.71 за неделю — ранний сигнал о distribution shift. NVIDIA Triton Inference Server рекомендует отслеживать эти метрики через Prometheus. Наши сертифицированные инженеры настраивают мониторинг и гарантируют SLA по качеству инференса.

Деплой CV‑моделей

Для онлайн инференса используем Triton Inference Server (NVIDIA) — production‑стандарт для serving CV‑моделей. Поддерживает TensorRT, ONNX, PyTorch, dynamic batching, multiple instances. REST и gRPC API. Гарантируем стабильную работу под нагрузкой.

Edge deployment: ONNX Runtime на ARM/x86 CPU. TensorFlow Lite для мобильных устройств. OpenVINO для Intel CPU/GPU/VPU — даёт 2–3× прирост скорости на Intel железе по сравнению с ONNX Runtime. После деплоя передаём модель с документацией и обучаем персонал.

Что входит в работу

Сроки и стоимость

Прототип детектора на существующих данных — 1–2 недели. Production‑система с оптимизацией под целевое железо — 4–8 недель. Полный цикл включая разметку данных (1000–5000 изображений) — 2–4 месяца. Стоимость рассчитывается индивидуально под каждую задачу. Примерная экономия от внедрения системы контроля качества — до 1 млн рублей в месяц на одном производственном участке.

Мы на рынке более 5 лет, реализовали 60+ проектов по компьютерному зрению. Оценим ваш проект под ключ — закажите консультацию, чтобы получить расчёт и техническое предложение.