Рендеринг промо-видео смешанной реальности (Mixed Reality Capture)

Рендеринг промо-видео смешанной реальности (Mixed Reality Capture)

MRC-видео — это когда реальный человек в VR-гарнитуре появляется внутри игрового мира. Технически сложная вещь: нужно синхронизировать позицию физической камеры с игровой сценой в реальном времени, наложить виртуальный контент поверх зелёного фона с правильной глубиной, и сделать так, чтобы виртуальные объекты корректно перекрывали игрока (foreground layers). Результат — промо-материал, который продаёт ощущение от игры несравнимо лучше, чем обычная запись с headset-камеры. За 5+ лет мы реализовали 30+ таких проектов — от мобильных VR-игр до PC-трейлеров.

Два подхода: hardware MRC и software MRC

Hardware MRC (для Meta Quest 2/3/Pro) — отдельная физическая камера, синхронизированная с headset через Mixed Reality Capture App или кастомный setup на базе Elgato 4K60 Pro с OBS. Meta предоставляет официальный пайплайн: внешняя камера подключается к ПК, специальное приложение на Quest передаёт позицию headset через Wi-Fi, и движок (Unity через OVRMixedReality или Unreal через Oculus MRC Plugin) рендерит слой с foreground-объектами. Подробнее в документации Oculus MRC: developer.oculus.com/documentation/unity/unity-mrc/

Ключевая сложность — калибровка. Физическая камера должна быть точно откалибрована по позиции в пространстве относительно Guardian boundary Quest. Используется OVRExternalComposition режим в Oculus PC SDK. Ошибка позиции камеры на 5 мм даёт видимое расхождение виртуальных рук игрока и реальных рук в кадре — эффект «плавающих перчаток», убивающий иллюзию. Мы гарантируем точность калибровки до 2 мм — это вдвое лучше типичного результата при самостоятельной настройке (средняя погрешность 5–10 мм).

Software MRC — снимается постфактум через compositor. Используется запись экрана с alpha-каналом (если движок это поддерживает) плюс greenscreen-съёмка игрока. Потом компоузинг в After Effects или DaVinci Resolve Fusion. Более гибко по контролю над результатом, но нет синхронизации в реальном времени — позы игрока и виртуальный контент нужно синхронизировать вручную.

Сравнение подходов — рендеринг промо видео

Hardware MRC даёт результат «из коробки» — экономит время, но требует точного оборудования и калибровки. Software MRC дешевле и гибче, но требует больше времени на пост-продакшн. Мы рекомендуем hardware для живых стримов и quick-turnaround трейлеров, а software — когда нужен полный контроль над каждым кадром. Закажите консультацию, и мы поможем выбрать оптимальный подход под ваш проект.

Foreground layer: самое сложное место

В hardware MRC главная техническая проблема — foreground layer. По умолчанию игрок рендерится поверх всего. Но если в игре есть объекты, за которыми должен прятаться игрок (стена, стол, виртуальный персонаж), нужно выводить два слоя: фоновый виртуальный контент + передний план. Реализуется через stencil buffer: объекты переднего плана пишут в stencil, отдельный pass рендерит foreground-маску.

В Unity с URP это настраивается через дополнительный Camera Output texture с кастомным Renderer Feature. Render Pass рисует только geometry с тегом ForegroundLayer, пишет результат в RenderTexture, который потом передаётся в MRC compositor. При неправильном порядке render passes игрок «проваливается» через виртуальные объекты — классический артефакт, который сразу видно на промо-видео. Мы используем проверенные настройки, чтобы избежать этого.

Пайплайн для финального рендера

После съёмки raw footage: хромакей в After Effects (Keylight 1.2 + Screen Matte), colour matching между виртуальным контентом и реальным освещением сцены съёмки, motion blur на виртуальных слоях для соответствия реальной камере (Camera Blur эффект с параметрами из exif реальной съёмки).

Звук: если использовались контроллеры Quest с haptics, тактильные события полезно конвертировать в звуковые акценты на треке — усиливает ощущение интерактивности.

Экспорт: H.264 или H.265, 4K 60fps для YouTube/Meta. Для Steam trailer — H.264 в соответствии с требованиями Valve (максимум 30 fps для trailer thumbnail, 60 fps для gameplay video).

Как мы работаем: от идеи до готового видео

1. Анализ вашей игры и целей промо — определяем формат MRC и оборудование.
2. Настройка студии: калибровка камеры, greenscreen, освещение.
3. Съёмка: hardware или software MRC с контролем качества в реальном времени.
4. Пост-продакшн: хромакей, colour matching, motion blur, звук, синхронизация.
5. Финальный экспорт в требуемых форматах и битрейтах.

Что входит в работу

• Подбор и настройка оборудования (камера, гарнитура, greenscreen, освещение).
• Калибровка системы с точностью до 2 мм.
• Проведение съёмки в hardware или software MRC режиме.
• Полный пост-продакшн: хромакей, цветокоррекция, motion blur, звуковое оформление.
• Синхронизация виртуального и реального контента.
• Экспорт в любые форматы (4K 60fps, H.264/H.265, для Steam, YouTube, Meta).
• Предоставление исходников проекта для будущих правок.
• Бесплатная консультация и оценка проекта.

Ориентировочные сроки

Стоимость рассчитывается после обсуждения формата съёмки, доступного оборудования и требований к финальному видео. Оценим проект бесплатно — напишите нам, и мы предложим оптимальное решение.

Почему стоит заказать MRC у нас?

Мы — команда геймдев-инженеров с 5+ лет опыта в VR-продакшне. Сертифицированные специалисты Unity и Unreal, реализовали 30+ проектов MRC для инди-студий и крупных издателей. Используем только лицензионное оборудование и софт. Гарантируем качество: каждый проект проходит внутреннее ревью до отправки клиенту. Убедитесь сами — получите консультацию.

VR и AR разработка

Когда мы впервые запускаем проект в VR-гарнитуре, большинство команд сталкивается с одним и тем же: технически всё работает, но в гарнитуре либо укачивает, либо руки «плавают» с задержкой, либо сцена выглядит дёрганой на периферии взгляда. Это не баги в привычном смысле — это следствие того, что VR/AR разработка требует другого подхода к архитектуре рендера, взаимодействию и UX с самого начала проекта. Наш опыт — более 7 лет в геймдеве, 15+ завершённых VR/AR-проектов для Meta Quest, SteamVR, PSVR2, HoloLens.

Платформы и SDK

Работаем со всем актуальным стеком. OpenXR используем как базовый слой везде, где это возможно — он даёт кроссплатформенность между Meta, Valve Index, HP Reverb и другими PC VR-устройствами (OpenXR на Wikipedia). Поверх OpenXR строим на XR Interaction Toolkit (Unity) или VR Expansion Plugin (Unreal).

Как минимизировать укачивание при локомоции в VR?

Locomotion — главный источник motion sickness для неопытных VR-пользователей. Согласно исследованиям, около 70% пользователей испытывают дискомфорт при неправильной настройке движения (Oculus Developer Guidelines). Teleportation — стандартный способ навигации, когда плавное передвижение нежелательно.

Компоненты из XR Interaction Toolkit: TeleportationArea, TeleportationAnchor, TeleportationProvider. Базовая реализация работает «из коробки», но для продакшна дорабатываем её в четыре шага:

1. Настройка XRRayInteractor с изогнутым лучом (Bend Ray) — дуга телепортации выглядит натуральнее прямого луча, лучше считывается пользователями.
2. Добавление валидной зоны приземления — визуальный индикатор меняет цвет при наведении на препятствие (красный/зелёный).
3. Внедрение fade transition — плавное затухание экрана (black fade) перед телепортом снижает дезориентацию.
4. Rotation snapping — после телепорта предлагаем snap-поворот на 45° или 90° вместо плавного, что снижает риск укачивания.

Для проектов, где нужна плавная локомоция (экшн-игры, симуляторы), используем comfort settings: виньетирование при движении, снижение FOV во время ускорения. Настройки доступны пользователю в меню — разные люди имеют разный порог чувствительности.

Как сделать захват объектов в VR физически реалистичным?

Это самая недооценённая часть VR-разработки. Клиенты часто воспринимают её как «просто анимация рук», но на практике — сложная система, где физическая корректность, отзывчивость и комфорт вступают в противоречие.

Grab (захват)

XR Interaction Toolkit предоставляет три типа Interactable для захвата:

• XRGrabInteractable — стандартный захват, объект следует за контроллером через физический joint или direct position/rotation
• XRSimpleInteractable — для объектов без физического перемещения (кнопки, рычаги)
• Кастомные Interactable через наследование от XRBaseInteractable

Attach Transform — часто игнорируемая деталь. У каждого Interactable должен быть правильно настроенный Attach Transform (точка, к которой рука «прилипает»). Без него рукоятка пистолета окажется по центру меша, а не там, где её держат.

Для оружия и инструментов с двуручным захватом — отдельная система TwoHandGrab: ведущая рука определяет позицию, вторая — ориентацию. XR Interaction Toolkit поддерживает это через XRTwoHandGrabInteractable или кастомную логику с двумя Attach Points.

Throw (бросок)

Почему velocity smoothing критично для реалистичного броска? Проблема в том, что Rigidbody.velocity в момент отпускания контроллера отражает мгновенную скорость, которая часто некорректна из-за дискретизации трекинга. Пользователь делает быстрое движение запястьем — а объект летит вдвое медленнее.

Решение: velocity smoothing за последние N кадров (типично 5-10 кадров, ~80-160 мс при 60 Hz) перед отпусканием. XR Interaction Toolkit делает это через VelocityEstimator. Дополнительно применяем velocity scaling multiplier — небольшое умножение скорости (1.2-1.5x) делает броски субъективно более удовлетворительными. Угловую скорость (для объектов, которые должны крутиться в полёте) тоже усредняем аналогичным образом.

AR: Plane Tracking и работа с окружением

AR добавляет другой класс проблем — работу с реальным, непредсказуемым окружением. AR Foundation — кроссплатформенный слой поверх ARKit и ARCore. Большинство базовых функций (plane detection, raycasting, image tracking, face tracking) доступны через единый API.

Plane Detection

ARPlaneManager обнаруживает горизонтальные и вертикальные плоскости. Практические нюансы:

• Инициализация занимает время — пользователь должен осмотреть помещение, пока система строит карту. Нужен явный onboarding с инструкцией «медленно поводите камерой по поверхностям».
• Плоскости нестабильны — их границы и позиция обновляются по мере накопления данных. Объекты, размещённые на плоскости, нужно привязывать через parenting к ARPlane, а не к мировым координатам.
• Слияние плоскостей — два обнаруженных сегмента пола могут слиться в один, что двигает якорь. Для критичных якорей используем ARAnchor вместо прямой привязки к плоскости.

Оптимизация для VR: фреймрейт и комфорт

VR требует стабильного высокого фреймрейта. Около 60% времени разработки в мобильном VR уходит на оптимизацию, а не на функционал — ретрофит в два раза дороже правильной архитектуры с первого спринта.

Single Pass Instanced Rendering

Главная оптимизация рендера в VR. Без неё сцена рендерится дважды (для каждого глаза), что удваивает draw calls. Single Pass Instanced рендерит оба глаза за один проход через instancing: geometry обрабатывается один раз, шейдер получает два view/projection matrix через GPU instancing. Включается в Unity через XR Plug-in Management > Rendering Mode: Single Pass Instanced. Важно: кастомные шейдеры должны поддерживать SPI — стандартные URP/HDRP шейдеры поддерживают, кастомные HLSL требуют правки (UNITY_SETUP_STEREO_EYE_INDEX_POST_VERTEX и связанные макросы). Применение этой техники сокращает количество draw calls на 40-50%.

Foveated Rendering

На Meta Quest доступен Fixed Foveated Rendering (FFR) — снижение разрешения на периферии кадра, где острота восприятия ниже. Настраивается через OVRManager или Meta XR SDK:

OVRManager.fixedFoveatedRenderingLevel = OVRManager.FixedFoveatedRenderingLevel.High;
OVRManager.useDynamicFixedFoveatedRendering = true;

Dynamic FFR автоматически повышает уровень при просадке фреймрейта — удобнее фиксированного в сценах с переменной нагрузкой.

IPD и Comfort Settings

IPD (Inter-Pupillary Distance) — расстояние между зрачками, влияет на восприятие глубины. На программируемом уровне в большинстве устройств доступно только чтение IPD (OVRPlugin.GetSystemDisplayFrequency), физическая настройка — на гарнитуре. Для приложений с точным позиционированием (медицинские симуляторы, тренинги) учитываем IPD в расчётах масштаба сцены.

Haptics

Тактильный фидбек — недооценённый инструмент. Даже простой вибрационный отклик при захвате объекта или попадании значительно повышает ощущение присутствия. В среднем интеграция тактильных паттернов занимает 30–80 часов на проект.

XR Haptics через OpenXR:

var hapticImpulse = new UnityEngine.XR.HapticCapabilities();
InputDevice device = InputDevices.GetDeviceAtXRNode(XRNode.RightHand);
device.SendHapticImpulse(0, amplitude: 0.5f, duration: 0.1f);

Для сложных паттернов (тактильная «текстура» поверхности при прикосновении, нарастающая вибрация при натяжении тетивы лука) используем Meta Haptics Studio — позволяет дизайнить haptic-клипы визуально.

Что входит в разработку VR/AR-приложения

При заказе проекта под ключ мы предоставляем:

• Архитектурный документ с описанием стека, логики рендера и системы взаимодействия
• Рабочий прототип (MVP) для тестирования на целевом устройстве
• Интеграцию необходимых SDK (Meta XR, OpenXR, AR Foundation и др.)
• Оптимизацию под целевые частоты 72/90/120 Hz с профилированием draw calls и FPS
• Тестирование на физическом оборудовании (Quest, SteamVR, HoloLens) с привлечением пользователей
• Полную документацию по сборке, деплою и поддержке
• Обучение команды заказчика (воркшоп по работе с XR Toolkit)
• Гарантийную поддержку в течение 1 месяца после сдачи

Что влияет на стоимость и сроки

VR/AR проекты дороже обычных игр аналогичного объёма. Итерации медленнее — каждую правку нужно тестировать в гарнитуре, эмулятор не передаёт реальный опыт. Motion sickness вынуждает переделывать часть концептуальных решений после первого плейтеста. Оптимизация занимает существенную долю времени — для мобильного VR (Quest) до 60-70% цикла. Для проектов под Quest начинаем оптимизацию с первого спринта. Стоимость интеграции базового SDK (XR Interaction Toolkit) обычно варьируется от 200 000 до 600 000 рублей в зависимости от объёма кастомных Interactable. Средний бюджет полного проекта под Quest составляет от 1 500 000 до 4 000 000 рублей.

Получите консультацию по вашему проекту — оценим задачу, стек и сроки. Закажите разработку VR/AR-приложения под ключ с гарантией стабильного фреймрейта.