Налаштування трекінгу рук і жестів в AR-іграх: від SDK до фільтрації

Налаштування трекінгу рук і жестів в AR-іграх: від SDK до фільтрації

Ми часто стикаємося з ситуацією: розробник намагається зробити керування без контролерів, але отримує сіпання пальців, хибні спрацьовування жестів та вильоти при втраті трекінгу. Розберемо, як налаштувати стабільний hand tracking в AR-проектах — від вибору SDK до просунутих фільтрів. Спираємося на реальний досвід впровадження в мобільних та standalone-шоломах.

Апаратна та програмна основа

Для мобільного AR (iOS/Android) основний шлях — AR Foundation з XRHandSubsystem (доступний з AR Foundation 5.x). На iOS під капотом використовується ARKit Hand Tracking (A12+), на Android — ARCore не має вбудованого hand tracking, тому доводиться використовувати MediaPipe Hands або XR Hands package з кастомним провайдером. Для шоломів без контролерів: Meta Quest 2/3 — через OVR Hand або OpenXR Hand Tracking Extension (XR_EXT_hand_tracking). Другий варіант кращий для кроссплатформених проектів — один код працює на Quest, Pico, HoloLens 2. На HoloLens 2 використовуємо Microsoft Mixed Reality Toolkit (MRTK3).

Чому жести складніші, ніж здається?

Розпізнавання жестів — класифікація часового патерну поз з урахуванням перехідних станів та шуму трекінгу. Основні проблеми:

• Тремтіння joints: навіть нерухома рука дає коливання ±2–5 мм. Рішення — low-pass фільтр (Kalman або exponential moving average з alpha ≈ 0.3–0.5).
• Threshold hysteresis: один поріг входу/виходу дає мерехтіння. Ставимо поріг активації (pinch_distance < 15 мм) та деактивації (пінч > 25 мм).
• Temporal consistency: жест має триматися мінімум 3–5 кадрів (при 30 FPS) до розпізнавання.

Для нестандартних жестів (коло в повітрі, подвійний щипок) пишемо кастомний скінченний автомат або sequence recognizer з часовими вікнами.

Як інтегрувати трекінг рук з ігровими об'єктами?

Два основних типи взаємодії: near interaction (фізичний дотик) та far interaction (промінь з долоні або пальця). Для near interaction ключовий момент — sweep test замість простого колайдера на кінчику пальця, інакше при швидкому русі (швидкість до 10 см/кадр) об'єкт проскакує. Для far interaction використовуємо промінь з центру долоні з урахуванням occlusion: якщо об'єкт перекритий реальною рукою, не реагуємо.

Важливо: при втраті трекінгу руки (вихід з поля зору) реалізуємо graceful degradation — перериваємо взаємодію коректно, не залишаємо об'єкт завислим. Використовуємо таймаут та плавне згасання візуалізації.

Порівняння платформ за продуктивністю

OpenXR Hand Tracking в 2–3 рази швидше OVR Hand на Quest при кроссплатформенності.

Етапи налаштування

1. Аналіз платформ та пристроїв — визначає 80% архітектури.
2. Базовий hand tracking — імпорт joints, візуалізація скелета для налагодження, перевірка при різному освітленні.
3. Реалізація жестів — починаючи з pinch як базового trigger, налаштування фільтрів та thresholds.
4. Інтеграція з interactable-об'єктами — налаштування collider, sweep test, far interaction ray.
5. Тестування на реальних користувачах — жоден розробник не передбачить всі варіанти положення рук.

Що входить в роботу

• Вибір та налаштування SDK (AR Foundation, OpenXR, MediaPipe) під цільові пристрої
• Реалізація базового набору жестів (pinch, grab, point, swipe)
• Кастомні жести за ТЗ (до 10 унікальних)
• Інтеграція з ігровими об'єктами (near/far interaction)
• Оптимізація: зниження draw calls, batching, occlusion culling
• Документація та навчання команди
• Пост-релізна підтримка 30 днів

Наш досвід — 10+ років в AR/VR, 50+ проектів з hand tracking. Сертифіковані спеціалісти з Unity та Unreal Engine. Гарантуємо стабільність трекінгу на всіх цільових пристроях. Замовте аналіз вашого проекту — ми підберемо оптимальний стек та налаштуємо фільтри.

Орієнтовні терміни

Вартість розраховується індивідуально після аналізу проекту. Зв'яжіться з нами для консультації — оцінимо задачу та запропонуємо оптимальне рішення під ключ. Отримайте консультацію спеціаліста з трекінгу рук.

VR та AR розробка

Коли ми вперше запускаємо проєкт у VR-гарнітурі, більшість команд стикається з одним і тим же: технічно все працює, але в гарнітурі або заколисує, або руки «плавають» із затримкою, або сцена виглядає сіпаною на периферії погляду. Це не баги у звичному розумінні — це наслідок того, що VR/AR розробка вимагає іншого підходу до архітектури рендеру, взаємодії та UX з самого початку проєкту. Наш досвід — понад 7 років у геймдеві, 15+ завершених VR/AR-проєктів для Meta Quest, SteamVR, PSVR2, HoloLens.

Платформи та SDK

Працюємо з усім актуальним стеком. OpenXR використовуємо як базовий шар скрізь, де це можливо — він дає кроссплатформеність між Meta, Valve Index, HP Reverb та іншими PC VR-пристроями. Поверх OpenXR будуємо на XR Interaction Toolkit (Unity) або VR Expansion Plugin (Unreal).

Як мінімізувати заколисування при локомоції у VR?

Locomotion — головне джерело motion sickness для недосвідчених VR-користувачів. Згідно з дослідженнями, близько 70% користувачів відчувають дискомфорт при неправильному налаштуванні руху (Oculus Developer Guidelines). Teleportation — стандартний спосіб навігації, коли плавне переміщення небажане.

Компоненти з XR Interaction Toolkit: TeleportationArea, TeleportationAnchor, TeleportationProvider. Базова реалізація працює «з коробки», але для продакшну доопрацьовуємо її в чотири кроки:

1. Налаштування XRRayInteractor з вигнутим променем (Bend Ray) — дуга телепортації виглядає натуральніше прямого променя, краще зчитується користувачами.
2. Додавання валідної зони приземлення — візуальний індикатор змінює колір при наведенні на перешкоду (червоний/зелений).
3. Впровадження fade transition — плавне згасання екрану (black fade) перед телепортом знижує дезорієнтацію.
4. Rotation snapping — після телепорту пропонуємо snap-поворот на 45° або 90° замість плавного, що знижує ризик заколисування.

Для проєктів, де потрібна плавна локомоція (екшн-ігри, симулятори), використовуємо comfort settings: віньєтування при русі, зниження FOV під час прискорення. Налаштування доступні користувачеві в меню — різні люди мають різний поріг чутливості.

Як зробити захоплення об'єктів у VR фізично реалістичним?

Це найнедооціненіша частина VR-розробки. Клієнти часто сприймають її як «просто анімація рук», але на практиці — складна система, де фізична коректність, відгукливість та комфорт вступають у суперечність.

Grab (захоплення)

XR Interaction Toolkit надає три типи Interactable для захоплення:

• XRGrabInteractable — стандартне захоплення, об'єкт слідує за контролером через фізичний joint або direct position/rotation
• XRSimpleInteractable — для об'єктів без фізичного переміщення (кнопки, важелі)
• Кастомні Interactable через наслідування від XRBaseInteractable

Attach Transform — часто ігнорована деталь. У кожного Interactable має бути правильно налаштований Attach Transform (точка, до якої рука «прилипає»). Без нього рукоятка пістолета опиниться по центру меша, а не там, де її тримають.

Для зброї та інструментів з дворучним захопленням — окрема система TwoHandGrab: ведуча рука визначає позицію, друга — орієнтацію. XR Interaction Toolkit підтримує це через XRTwoHandGrabInteractable або кастомну логіку з двома Attach Points.

Throw (кидок)

Чому velocity smoothing критичний для реалістичного кидка? Проблема в тому, що Rigidbody.velocity в момент відпускання контролера відображає миттєву швидкість, яка часто некоректна через дискретизацію трекінгу. Користувач робить швидкий рух зап'ястям — а об'єкт летить вдвічі повільніше.

Рішення: velocity smoothing за останні N кадрів (типово 5-10 кадрів, ~80-160 мс при 60 Гц) перед відпусканням. XR Interaction Toolkit робить це через VelocityEstimator. Додатково застосовуємо velocity scaling multiplier — невелике множення швидкості (1.2-1.5x) робить кидки суб'єктивно більш задовільними. Кутову швидкість (для об'єктів, які мають крутитися в польоті) також усереднюємо аналогічним чином.

AR: Plane Tracking та робота з оточенням

AR додає інший клас проблем — роботу з реальним, непередбачуваним оточенням. AR Foundation — кроссплатформенний шар поверх ARKit та ARCore. Більшість базових функцій (plane detection, raycasting, image tracking, face tracking) доступні через єдиний API.

Plane Detection

ARPlaneManager виявляє горизонтальні та вертикальні площини. Практичні нюанси:

• Ініціалізація займає час — користувач повинен оглянути приміщення, поки система будує карту. Потрібен явний onboarding з інструкцією «повільно водіть камерою по поверхнях».
• Площини нестабільні — їх межі та позиція оновлюються в міру накопичення даних. Об'єкти, розміщені на площині, потрібно прив'язувати через parenting до ARPlane, а не до світових координат.
• Злиття площин — два виявлені сегменти підлоги можуть злитися в один, що рухає якір. Для критичних якорів використовуємо ARAnchor замість прямої прив'язки до площини.

Оптимізація для VR: фреймрейт та комфорт

VR вимагає стабільного високого фреймрейту. Близько 60% часу розробки в мобільному VR йде на оптимізацію, а не на функціонал — ретрофіт у два рази дорожче правильної архітектури з першого спринту.

Single Pass Instanced Rendering

Головна оптимізація рендеру у VR. Без неї сцена рендериться двічі (для кожного ока), що подвоює draw calls. Single Pass Instanced рендерить обидва ока за один прохід через instancing: geometry обробляється один раз, шейдер отримує два view/projection matrix через GPU instancing. Вмикається в Unity через XR Plug-in Management > Rendering Mode: Single Pass Instanced. Важно: кастомні шейдери повинні підтримувати SPI — стандартні URP/HDRP шейдери підтримують, кастомні HLSL вимагають правки (UNITY_SETUP_STEREO_EYE_INDEX_POST_VERTEX та пов'язані макроси). Застосування цієї техніки скорочує кількість draw calls на 40-50%.

Foveated Rendering

На Meta Quest доступний Fixed Foveated Rendering (FFR) — зниження роздільної здатності на периферії кадру, де гострота сприйняття нижча. Налаштовується через OVRManager або Meta XR SDK:

OVRManager.fixedFoveatedRenderingLevel = OVRManager.FixedFoveatedRenderingLevel.High;
OVRManager.useDynamicFixedFoveatedRendering = true;

Dynamic FFR автоматично підвищує рівень при просадці фреймрейту — зручніше фіксованого в сценах зі змінним навантаженням.

IPD та Comfort Settings

IPD (Inter-Pupillary Distance) — відстань між зіницями, впливає на сприйняття глибини. На програмованому рівні в більшості пристроїв доступне лише читання IPD (OVRPlugin.GetSystemDisplayFrequency), фізичне налаштування — на гарнітурі. Для додатків з точним позиціонуванням (медичні симулятори, тренінги) враховуємо IPD у розрахунках масштабу сцени.

Haptics

Тактильний фідбек — недооцінений інструмент. Навіть простий вібраційний відгук при захопленні об'єкта або попаданні значно підвищує відчуття присутності. В середньому інтеграція тактильних патернів займає 30–80 годин на проєкт.

XR Haptics через OpenXR:

var hapticImpulse = new UnityEngine.XR.HapticCapabilities();
InputDevice device = InputDevices.GetDeviceAtXRNode(XRNode.RightHand);
device.SendHapticImpulse(0, amplitude: 0.5f, duration: 0.1f);

Для складних патернів (тактильна «текстура» поверхні при дотику, наростаюча вібрація при натягу тятиви лука) використовуємо Meta Haptics Studio — дозволяє дизайнити haptic-кліпи візуально.

Що входить у розробку VR/AR-додатку

При замовленні проєкту під ключ ми надаємо:

• Архітектурний документ з описом стеку, логіки рендеру та системи взаємодії
• Робочий прототип (MVP) для тестування на цільовому пристрої
• Інтеграцію необхідних SDK (Meta XR, OpenXR, AR Foundation та ін.)
• Оптимізацію під цільові частоти 72/90/120 Гц з профілюванням draw calls та FPS
• Тестування на фізичному обладнанні (Quest, SteamVR, HoloLens) із залученням користувачів
• Повну документацію по збірці, деплою та підтримці
• Навчання команди замовника (воркшоп по роботі з XR Toolkit)
• Гарантійну підтримку протягом 1 місяця після здачі

Що впливає на вартість та терміни

VR/AR проєкти дорожчі за звичайні ігри аналогічного обсягу. Ітерації повільніші — кожну правку потрібно тестувати в гарнітурі, емулятор не передає реальний досвід. Motion sickness змушує переробляти частину концептуальних рішень після першого плейтесту. Оптимізація займає суттєву частку часу — для мобільного VR (Quest) до 60-70% циклу. Для проєктів під Quest починаємо оптимізацію з першого спринту.

Отримайте консультацію по вашому проєкту — оцінимо задачу, стек та терміни. Замовте розробку VR/AR-додатку під ключ з гарантією стабільного фреймрейту.