Рендеринг промо-відео змішаної реальності (MRC)

Рендеринг промо-відео змішаної реальності (Mixed Reality Capture)

MRC-відео — це коли реальна людина в VR-гарнітурі з'являється всередині ігрового світу. Технічно складна річ: потрібно синхронізувати позицію фізичної камери з ігровою сценою в реальному часі, накласти віртуальний контент поверх зеленого фону з правильною глибиною, і зробити так, щоб віртуальні об'єкти коректно перекривали гравця (foreground layers). Результат — промо-матеріал, який продає відчуття від гри незрівнянно краще, ніж звичайний запис з headset-камери. За 5+ років ми реалізували 30+ таких проєктів — від мобільних VR-ігор до PC-трейлерів.

Два підходи: hardware MRC і software MRC

Hardware MRC (для Meta Quest 2/3/Pro) — окрема фізична камера, синхронізована з headset через Mixed Reality Capture App або кастомний setup на базі Elgato 4K60 Pro з OBS. Meta надає офіційний пайплайн: зовнішня камера підключається до ПК, спеціальний додаток на Quest передає позицію headset через Wi-Fi, і рушій (Unity через OVRMixedReality або Unreal через Oculus MRC Plugin) рендерить шар з foreground-об'єктами. Детальніше в документації Oculus MRC: developer.oculus.com/documentation/unity/unity-mrc/

Ключова складність — калібрування. Фізична камера має бути точно відкалібрована за позицією в просторі відносно Guardian boundary Quest. Використовується OVRExternalComposition режим в Oculus PC SDK. Помилка позиції камери на 5 мм дає видиме розходження віртуальних рук гравця і реальних рук у кадрі — ефект «плаваючих рукавичок», що вбиває ілюзію. Ми гарантуємо точність калібрування до 2 мм — це вдвічі краще за типовий результат при самостійному налаштуванні (середня похибка 5–10 мм).

Software MRC — знімається постфактум через композитор. Використовується запис екрану з альфа-каналом (якщо рушій це підтримує) плюс greenscreen-зйомка гравця. Потім компоузинг в After Effects або DaVinci Resolve Fusion. Більш гнучко за контролем над результатом, але немає синхронізації в реальному часі — пози гравця і віртуальний контент потрібно синхронізувати вручну.

Як обрати між hardware і software MRC?

Вибір залежить від бюджету та термінів. Hardware MRC в 2 рази швидше для живих стрімів, але потребує додаткових витрат: оренда обладнання коштує від $200 за день, покупка — від $1500. Software MRC дешевший (від $800 за повний цикл), але займає на 30% більше часу на пост-продакшн. Ми рекомендуємо hardware для трейлерів з термінами до 10 днів, software — коли потрібен максимальний контроль якості.

Порівняння підходів — рендеринг промо-відео

Hardware MRC дає результат «з коробки» — економить час, але потребує точного обладнання та калібрування. Software MRC дешевший і гнучкіший, але потребує більше часу на пост-продакшн. Ми рекомендуємо hardware для живих стрімів та quick-turnaround трейлерів, а software — коли потрібен повний контроль над кожним кадром. Замовте консультацію, і ми допоможемо обрати оптимальний підхід під ваш проєкт.

Foreground layer: найскладніше місце

У hardware MRC головна технічна проблема — foreground layer. За замовчуванням гравець рендериться поверх усього. Але якщо в грі є об'єкти, за якими має ховатися гравець (стіна, стіл, віртуальний персонаж), потрібно виводити два шари: фоновий віртуальний контент + передній план. Реалізується через stencil buffer: об'єкти переднього плану пишуть у stencil, окремий pass рендерить foreground-маску.

У Unity з URP це налаштовується через додатковий Camera Output texture з кастомним Renderer Feature. Render Pass малює тільки geometry з тегом ForegroundLayer, пише результат у RenderTexture, який потім передається в MRC compositor. При неправильному порядку render passes гравець «провалюється» через віртуальні об'єкти — класичний артефакт, який одразу видно на промо-відео. Ми використовуємо перевірені налаштування, щоб уникнути цього.

Пайплайн для фінального рендеру

Після зйомки raw footage: хромакей в After Effects (Keylight 1.2 + Screen Matte), colour matching між віртуальним контентом та реальним освітленням сцени зйомки, motion blur на віртуальних шарах для відповідності реальній камері (Camera Blur ефект з параметрами з exif реальної зйомки).

Звук: якщо використовувалися контролери Quest з haptics, тактильні події корисно конвертувати в звукові акценти на треку — підсилює відчуття інтерактивності.

Експорт: H.264 або H.265, 4K 60fps для YouTube/Meta. Для Steam trailer — H.264 відповідно до вимог Valve (максимум 30 fps для trailer thumbnail, 60 fps для gameplay video).

Як ми працюємо: від ідеї до готового відео

1. Аналіз вашої гри та цілей промо — визначаємо формат MRC та обладнання.
2. Налаштування студії: калібрування камери, greenscreen, освітлення.
3. Зйомка: hardware або software MRC з контролем якості в реальному часі.
4. Пост-продакшн: хромакей, colour matching, motion blur, звук, синхронізація.
5. Фінальний експорт у необхідних форматах та бітрейтах.

Що входить у роботу

• Підбір та налаштування обладнання (камера, гарнітура, greenscreen, освітлення).
• Калібрування системи з точністю до 2 мм.
• Проведення зйомки в hardware або software MRC режимі.
• Повний пост-продакшн: хромакей, кольорокорекція, motion blur, звукове оформлення.
• Синхронізація віртуального та реального контенту.
• Експорт у будь-які формати (4K 60fps, H.264/H.265, для Steam, YouTube, Meta).
• Надання вихідників проєкту для майбутніх правок.
• Безкоштовна консультація та оцінка проєкту.

Орієнтовні терміни

Вартість розраховується після обговорення формату зйомки, доступного обладнання та вимог до фінального відео. Оцінимо проєкт безкоштовно — напишіть нам, і ми запропонуємо оптимальне рішення. Вартість hardware MRC починається від $1500, software MRC — від $800, що на 40% знижує витрати порівняно з повним циклом у конкурентів.

Чому варто замовити MRC у нас?

Ми — команда геймдев-інженерів з 5+ років досвіду в VR-продакшні. Сертифіковані спеціалісти Unity та Unreal, реалізували 30+ проєктів MRC для інді-студій та великих видавців. Використовуємо лише ліцензійне обладнання та софт. Гарантуємо якість: кожен проєкт проходить внутрішнє рев'ю перед відправкою клієнту. Переконайтеся самі — отримайте консультацію.

VR та AR розробка

Коли ми вперше запускаємо проєкт у VR-гарнітурі, більшість команд стикається з одним і тим же: технічно все працює, але в гарнітурі або заколисує, або руки «плавають» із затримкою, або сцена виглядає сіпаною на периферії погляду. Це не баги у звичному розумінні — це наслідок того, що VR/AR розробка вимагає іншого підходу до архітектури рендеру, взаємодії та UX з самого початку проєкту. Наш досвід — понад 7 років у геймдеві, 15+ завершених VR/AR-проєктів для Meta Quest, SteamVR, PSVR2, HoloLens.

Платформи та SDK

Працюємо з усім актуальним стеком. OpenXR використовуємо як базовий шар скрізь, де це можливо — він дає кроссплатформеність між Meta, Valve Index, HP Reverb та іншими PC VR-пристроями. Поверх OpenXR будуємо на XR Interaction Toolkit (Unity) або VR Expansion Plugin (Unreal).

Як мінімізувати заколисування при локомоції у VR?

Locomotion — головне джерело motion sickness для недосвідчених VR-користувачів. Згідно з дослідженнями, близько 70% користувачів відчувають дискомфорт при неправильному налаштуванні руху (Oculus Developer Guidelines). Teleportation — стандартний спосіб навігації, коли плавне переміщення небажане.

Компоненти з XR Interaction Toolkit: TeleportationArea, TeleportationAnchor, TeleportationProvider. Базова реалізація працює «з коробки», але для продакшну доопрацьовуємо її в чотири кроки:

1. Налаштування XRRayInteractor з вигнутим променем (Bend Ray) — дуга телепортації виглядає натуральніше прямого променя, краще зчитується користувачами.
2. Додавання валідної зони приземлення — візуальний індикатор змінює колір при наведенні на перешкоду (червоний/зелений).
3. Впровадження fade transition — плавне згасання екрану (black fade) перед телепортом знижує дезорієнтацію.
4. Rotation snapping — після телепорту пропонуємо snap-поворот на 45° або 90° замість плавного, що знижує ризик заколисування.

Для проєктів, де потрібна плавна локомоція (екшн-ігри, симулятори), використовуємо comfort settings: віньєтування при русі, зниження FOV під час прискорення. Налаштування доступні користувачеві в меню — різні люди мають різний поріг чутливості.

Як зробити захоплення об'єктів у VR фізично реалістичним?

Це найнедооціненіша частина VR-розробки. Клієнти часто сприймають її як «просто анімація рук», але на практиці — складна система, де фізична коректність, відгукливість та комфорт вступають у суперечність.

Grab (захоплення)

XR Interaction Toolkit надає три типи Interactable для захоплення:

• XRGrabInteractable — стандартне захоплення, об'єкт слідує за контролером через фізичний joint або direct position/rotation
• XRSimpleInteractable — для об'єктів без фізичного переміщення (кнопки, важелі)
• Кастомні Interactable через наслідування від XRBaseInteractable

Attach Transform — часто ігнорована деталь. У кожного Interactable має бути правильно налаштований Attach Transform (точка, до якої рука «прилипає»). Без нього рукоятка пістолета опиниться по центру меша, а не там, де її тримають.

Для зброї та інструментів з дворучним захопленням — окрема система TwoHandGrab: ведуча рука визначає позицію, друга — орієнтацію. XR Interaction Toolkit підтримує це через XRTwoHandGrabInteractable або кастомну логіку з двома Attach Points.

Throw (кидок)

Чому velocity smoothing критичний для реалістичного кидка? Проблема в тому, що Rigidbody.velocity в момент відпускання контролера відображає миттєву швидкість, яка часто некоректна через дискретизацію трекінгу. Користувач робить швидкий рух зап'ястям — а об'єкт летить вдвічі повільніше.

Рішення: velocity smoothing за останні N кадрів (типово 5-10 кадрів, ~80-160 мс при 60 Гц) перед відпусканням. XR Interaction Toolkit робить це через VelocityEstimator. Додатково застосовуємо velocity scaling multiplier — невелике множення швидкості (1.2-1.5x) робить кидки суб'єктивно більш задовільними. Кутову швидкість (для об'єктів, які мають крутитися в польоті) також усереднюємо аналогічним чином.

AR: Plane Tracking та робота з оточенням

AR додає інший клас проблем — роботу з реальним, непередбачуваним оточенням. AR Foundation — кроссплатформенний шар поверх ARKit та ARCore. Більшість базових функцій (plane detection, raycasting, image tracking, face tracking) доступні через єдиний API.

Plane Detection

ARPlaneManager виявляє горизонтальні та вертикальні площини. Практичні нюанси:

• Ініціалізація займає час — користувач повинен оглянути приміщення, поки система будує карту. Потрібен явний onboarding з інструкцією «повільно водіть камерою по поверхнях».
• Площини нестабільні — їх межі та позиція оновлюються в міру накопичення даних. Об'єкти, розміщені на площині, потрібно прив'язувати через parenting до ARPlane, а не до світових координат.
• Злиття площин — два виявлені сегменти підлоги можуть злитися в один, що рухає якір. Для критичних якорів використовуємо ARAnchor замість прямої прив'язки до площини.

Оптимізація для VR: фреймрейт та комфорт

VR вимагає стабільного високого фреймрейту. Близько 60% часу розробки в мобільному VR йде на оптимізацію, а не на функціонал — ретрофіт у два рази дорожче правильної архітектури з першого спринту.

Single Pass Instanced Rendering

Головна оптимізація рендеру у VR. Без неї сцена рендериться двічі (для кожного ока), що подвоює draw calls. Single Pass Instanced рендерить обидва ока за один прохід через instancing: geometry обробляється один раз, шейдер отримує два view/projection matrix через GPU instancing. Вмикається в Unity через XR Plug-in Management > Rendering Mode: Single Pass Instanced. Важно: кастомні шейдери повинні підтримувати SPI — стандартні URP/HDRP шейдери підтримують, кастомні HLSL вимагають правки (UNITY_SETUP_STEREO_EYE_INDEX_POST_VERTEX та пов'язані макроси). Застосування цієї техніки скорочує кількість draw calls на 40-50%.

Foveated Rendering

На Meta Quest доступний Fixed Foveated Rendering (FFR) — зниження роздільної здатності на периферії кадру, де гострота сприйняття нижча. Налаштовується через OVRManager або Meta XR SDK:

OVRManager.fixedFoveatedRenderingLevel = OVRManager.FixedFoveatedRenderingLevel.High;
OVRManager.useDynamicFixedFoveatedRendering = true;

Dynamic FFR автоматично підвищує рівень при просадці фреймрейту — зручніше фіксованого в сценах зі змінним навантаженням.

IPD та Comfort Settings

IPD (Inter-Pupillary Distance) — відстань між зіницями, впливає на сприйняття глибини. На програмованому рівні в більшості пристроїв доступне лише читання IPD (OVRPlugin.GetSystemDisplayFrequency), фізичне налаштування — на гарнітурі. Для додатків з точним позиціонуванням (медичні симулятори, тренінги) враховуємо IPD у розрахунках масштабу сцени.

Haptics

Тактильний фідбек — недооцінений інструмент. Навіть простий вібраційний відгук при захопленні об'єкта або попаданні значно підвищує відчуття присутності. В середньому інтеграція тактильних патернів займає 30–80 годин на проєкт.

XR Haptics через OpenXR:

var hapticImpulse = new UnityEngine.XR.HapticCapabilities();
InputDevice device = InputDevices.GetDeviceAtXRNode(XRNode.RightHand);
device.SendHapticImpulse(0, amplitude: 0.5f, duration: 0.1f);

Для складних патернів (тактильна «текстура» поверхні при дотику, наростаюча вібрація при натягу тятиви лука) використовуємо Meta Haptics Studio — дозволяє дизайнити haptic-кліпи візуально.

Що входить у розробку VR/AR-додатку

При замовленні проєкту під ключ ми надаємо:

• Архітектурний документ з описом стеку, логіки рендеру та системи взаємодії
• Робочий прототип (MVP) для тестування на цільовому пристрої
• Інтеграцію необхідних SDK (Meta XR, OpenXR, AR Foundation та ін.)
• Оптимізацію під цільові частоти 72/90/120 Гц з профілюванням draw calls та FPS
• Тестування на фізичному обладнанні (Quest, SteamVR, HoloLens) із залученням користувачів
• Повну документацію по збірці, деплою та підтримці
• Навчання команди замовника (воркшоп по роботі з XR Toolkit)
• Гарантійну підтримку протягом 1 місяця після здачі

Що впливає на вартість та терміни

VR/AR проєкти дорожчі за звичайні ігри аналогічного обсягу. Ітерації повільніші — кожну правку потрібно тестувати в гарнітурі, емулятор не передає реальний досвід. Motion sickness змушує переробляти частину концептуальних рішень після першого плейтесту. Оптимізація займає суттєву частку часу — для мобільного VR (Quest) до 60-70% циклу. Для проєктів під Quest починаємо оптимізацію з першого спринту.

Отримайте консультацію по вашому проєкту — оцінимо задачу, стек та терміни. Замовте розробку VR/AR-додатку під ключ з гарантією стабільного фреймрейту.