Настройка трекинга рук и жестов в AR-играх: от SDK до фильтрации

Настройка трекинга рук и жестов в AR-играх: от SDK до фильтрации

Мы часто сталкиваемся с ситуацией: разработчик пытается сделать управление без контроллеров, но получает дёргающиеся пальцы, ложные срабатывания жестов и вылеты при потере трекинга. Разберём, как настроить стабильный hand tracking в AR-проектах — от выбора SDK до продвинутых фильтров. Опираемся на реальный опыт внедрения в мобильных и standalone-шлемах.

Аппаратная и программная основа

Для мобильного AR (iOS/Android) основной путь — AR Foundation с XRHandSubsystem (доступен с AR Foundation 5.x). На iOS под капотом используется ARKit Hand Tracking (A12+), на Android — ARCore не имеет встроенного hand tracking, поэтому приходится использовать MediaPipe Hands или XR Hands package с кастомным провайдером. Для шлемов без контроллеров: Meta Quest 2/3 — через OVR Hand или OpenXR Hand Tracking Extension (XR_EXT_hand_tracking). Второй вариант предпочтительнее для кроссплатформенных проектов — один код работает на Quest, Pico, HoloLens 2. На HoloLens 2 используем Microsoft Mixed Reality Toolkit (MRTK3).

Почему жесты сложнее, чем кажется?

Распознавание жестов — классификация временного паттерна поз с учётом переходных состояний и шума трекинга. Основные проблемы:

• Дрожание joints: даже неподвижная рука даёт колебания ±2–5 мм. Решение — low-pass фильтр (Kalman или exponential moving average с alpha ≈ 0.3–0.5).
• Threshold hysteresis: один порог входа/выхода даёт мерцание. Ставим порог активации (pinch_distance < 15 мм) и деактивации (пинч > 25 мм).
• Temporal consistency: жест должен держаться минимум 3–5 кадров (при 30 FPS) до распознавания.

Для нестандартных жестов (круг в воздухе, двойной щипок) пишем кастомный конечный автомат или sequence recognizer с временными окнами.

Как интегрировать трекинг рук с игровыми объектами?

Два основных типа взаимодействия: near interaction (физическое касание) и far interaction (луч из ладони или пальца). Для near interaction ключевой момент — sweep test вместо простого коллайдера на кончике пальца, иначе при быстром движении (скорость до 10 см/кадр) объект проскакивает. Для far interaction используем ray из центра ладони с учётом occlusion: если объект перекрыт реальной рукой, не реагируем.

Важно: при потере трекинга руки (выход из поля зрения) реализуем graceful degradation — прерываем взаимодействие корректно, не оставляем объект зависшим. Используем таймаут и плавное затухание визуализации.

Сравнение платформ по производительности

OpenXR Hand Tracking в 2–3 раза быстрее OVR Hand на Quest при кроссплатформенности.

Этапы настройки

1. Анализ платформ и устройств — определяет 80% архитектуры.
2. Базовый hand tracking — импорт joints, визуализация скелета для отладки, проверка при разном освещении.
3. Реализация жестов — начиная с pinch как базового trigger, настройка фильтров и thresholds.
4. Интеграция с interactable-объектами — настройка collider, sweep test, far interaction ray.
5. Тестирование на реальных пользователях — ни один разработчик не предугадает все варианты положения рук.

Что входит в работу

• Выбор и настройка SDK (AR Foundation, OpenXR, MediaPipe) под целевые устройства
• Реализация базового набора жестов (pinch, grab, point, swipe)
• Кастомные жесты по ТЗ (до 10 уникальных)
• Интеграция с игровыми объектами (near/far interaction)
• Оптимизация: снижение draw calls, batching, occlusion culling
• Документация и обучение команды
• Пост-релизная поддержка 30 дней

Наш опыт — 10+ лет в AR/VR, 50+ проектов с hand tracking. Сертифицированные специалисты по Unity и Unreal Engine. Гарантируем стабильность трекинга на всех целевых устройствах. Закажите анализ вашего проекта — мы подберём оптимальный стек и настроим фильтры.

Ориентировочные сроки

Стоимость рассчитывается индивидуально после анализа проекта. Свяжитесь с нами для консультации — оценим задачу и предложим оптимальное решение под ключ. Получите консультацию специалиста по трекингу рук.

VR и AR разработка

Когда мы впервые запускаем проект в VR-гарнитуре, большинство команд сталкивается с одним и тем же: технически всё работает, но в гарнитуре либо укачивает, либо руки «плавают» с задержкой, либо сцена выглядит дёрганой на периферии взгляда. Это не баги в привычном смысле — это следствие того, что VR/AR разработка требует другого подхода к архитектуре рендера, взаимодействию и UX с самого начала проекта. Наш опыт — более 7 лет в геймдеве, 15+ завершённых VR/AR-проектов для Meta Quest, SteamVR, PSVR2, HoloLens.

Платформы и SDK

Работаем со всем актуальным стеком. OpenXR используем как базовый слой везде, где это возможно — он даёт кроссплатформенность между Meta, Valve Index, HP Reverb и другими PC VR-устройствами (OpenXR на Wikipedia). Поверх OpenXR строим на XR Interaction Toolkit (Unity) или VR Expansion Plugin (Unreal).

Как минимизировать укачивание при локомоции в VR?

Locomotion — главный источник motion sickness для неопытных VR-пользователей. Согласно исследованиям, около 70% пользователей испытывают дискомфорт при неправильной настройке движения (Oculus Developer Guidelines). Teleportation — стандартный способ навигации, когда плавное передвижение нежелательно.

Компоненты из XR Interaction Toolkit: TeleportationArea, TeleportationAnchor, TeleportationProvider. Базовая реализация работает «из коробки», но для продакшна дорабатываем её в четыре шага:

1. Настройка XRRayInteractor с изогнутым лучом (Bend Ray) — дуга телепортации выглядит натуральнее прямого луча, лучше считывается пользователями.
2. Добавление валидной зоны приземления — визуальный индикатор меняет цвет при наведении на препятствие (красный/зелёный).
3. Внедрение fade transition — плавное затухание экрана (black fade) перед телепортом снижает дезориентацию.
4. Rotation snapping — после телепорта предлагаем snap-поворот на 45° или 90° вместо плавного, что снижает риск укачивания.

Для проектов, где нужна плавная локомоция (экшн-игры, симуляторы), используем comfort settings: виньетирование при движении, снижение FOV во время ускорения. Настройки доступны пользователю в меню — разные люди имеют разный порог чувствительности.

Как сделать захват объектов в VR физически реалистичным?

Это самая недооценённая часть VR-разработки. Клиенты часто воспринимают её как «просто анимация рук», но на практике — сложная система, где физическая корректность, отзывчивость и комфорт вступают в противоречие.

Grab (захват)

XR Interaction Toolkit предоставляет три типа Interactable для захвата:

• XRGrabInteractable — стандартный захват, объект следует за контроллером через физический joint или direct position/rotation
• XRSimpleInteractable — для объектов без физического перемещения (кнопки, рычаги)
• Кастомные Interactable через наследование от XRBaseInteractable

Attach Transform — часто игнорируемая деталь. У каждого Interactable должен быть правильно настроенный Attach Transform (точка, к которой рука «прилипает»). Без него рукоятка пистолета окажется по центру меша, а не там, где её держат.

Для оружия и инструментов с двуручным захватом — отдельная система TwoHandGrab: ведущая рука определяет позицию, вторая — ориентацию. XR Interaction Toolkit поддерживает это через XRTwoHandGrabInteractable или кастомную логику с двумя Attach Points.

Throw (бросок)

Почему velocity smoothing критично для реалистичного броска? Проблема в том, что Rigidbody.velocity в момент отпускания контроллера отражает мгновенную скорость, которая часто некорректна из-за дискретизации трекинга. Пользователь делает быстрое движение запястьем — а объект летит вдвое медленнее.

Решение: velocity smoothing за последние N кадров (типично 5-10 кадров, ~80-160 мс при 60 Hz) перед отпусканием. XR Interaction Toolkit делает это через VelocityEstimator. Дополнительно применяем velocity scaling multiplier — небольшое умножение скорости (1.2-1.5x) делает броски субъективно более удовлетворительными. Угловую скорость (для объектов, которые должны крутиться в полёте) тоже усредняем аналогичным образом.

AR: Plane Tracking и работа с окружением

AR добавляет другой класс проблем — работу с реальным, непредсказуемым окружением. AR Foundation — кроссплатформенный слой поверх ARKit и ARCore. Большинство базовых функций (plane detection, raycasting, image tracking, face tracking) доступны через единый API.

Plane Detection

ARPlaneManager обнаруживает горизонтальные и вертикальные плоскости. Практические нюансы:

• Инициализация занимает время — пользователь должен осмотреть помещение, пока система строит карту. Нужен явный onboarding с инструкцией «медленно поводите камерой по поверхностям».
• Плоскости нестабильны — их границы и позиция обновляются по мере накопления данных. Объекты, размещённые на плоскости, нужно привязывать через parenting к ARPlane, а не к мировым координатам.
• Слияние плоскостей — два обнаруженных сегмента пола могут слиться в один, что двигает якорь. Для критичных якорей используем ARAnchor вместо прямой привязки к плоскости.

Оптимизация для VR: фреймрейт и комфорт

VR требует стабильного высокого фреймрейта. Около 60% времени разработки в мобильном VR уходит на оптимизацию, а не на функционал — ретрофит в два раза дороже правильной архитектуры с первого спринта.

Single Pass Instanced Rendering

Главная оптимизация рендера в VR. Без неё сцена рендерится дважды (для каждого глаза), что удваивает draw calls. Single Pass Instanced рендерит оба глаза за один проход через instancing: geometry обрабатывается один раз, шейдер получает два view/projection matrix через GPU instancing. Включается в Unity через XR Plug-in Management > Rendering Mode: Single Pass Instanced. Важно: кастомные шейдеры должны поддерживать SPI — стандартные URP/HDRP шейдеры поддерживают, кастомные HLSL требуют правки (UNITY_SETUP_STEREO_EYE_INDEX_POST_VERTEX и связанные макросы). Применение этой техники сокращает количество draw calls на 40-50%.

Foveated Rendering

На Meta Quest доступен Fixed Foveated Rendering (FFR) — снижение разрешения на периферии кадра, где острота восприятия ниже. Настраивается через OVRManager или Meta XR SDK:

OVRManager.fixedFoveatedRenderingLevel = OVRManager.FixedFoveatedRenderingLevel.High;
OVRManager.useDynamicFixedFoveatedRendering = true;

Dynamic FFR автоматически повышает уровень при просадке фреймрейта — удобнее фиксированного в сценах с переменной нагрузкой.

IPD и Comfort Settings

IPD (Inter-Pupillary Distance) — расстояние между зрачками, влияет на восприятие глубины. На программируемом уровне в большинстве устройств доступно только чтение IPD (OVRPlugin.GetSystemDisplayFrequency), физическая настройка — на гарнитуре. Для приложений с точным позиционированием (медицинские симуляторы, тренинги) учитываем IPD в расчётах масштаба сцены.

Haptics

Тактильный фидбек — недооценённый инструмент. Даже простой вибрационный отклик при захвате объекта или попадании значительно повышает ощущение присутствия. В среднем интеграция тактильных паттернов занимает 30–80 часов на проект.

XR Haptics через OpenXR:

var hapticImpulse = new UnityEngine.XR.HapticCapabilities();
InputDevice device = InputDevices.GetDeviceAtXRNode(XRNode.RightHand);
device.SendHapticImpulse(0, amplitude: 0.5f, duration: 0.1f);

Для сложных паттернов (тактильная «текстура» поверхности при прикосновении, нарастающая вибрация при натяжении тетивы лука) используем Meta Haptics Studio — позволяет дизайнить haptic-клипы визуально.

Что входит в разработку VR/AR-приложения

При заказе проекта под ключ мы предоставляем:

• Архитектурный документ с описанием стека, логики рендера и системы взаимодействия
• Рабочий прототип (MVP) для тестирования на целевом устройстве
• Интеграцию необходимых SDK (Meta XR, OpenXR, AR Foundation и др.)
• Оптимизацию под целевые частоты 72/90/120 Hz с профилированием draw calls и FPS
• Тестирование на физическом оборудовании (Quest, SteamVR, HoloLens) с привлечением пользователей
• Полную документацию по сборке, деплою и поддержке
• Обучение команды заказчика (воркшоп по работе с XR Toolkit)
• Гарантийную поддержку в течение 1 месяца после сдачи

Что влияет на стоимость и сроки

VR/AR проекты дороже обычных игр аналогичного объёма. Итерации медленнее — каждую правку нужно тестировать в гарнитуре, эмулятор не передаёт реальный опыт. Motion sickness вынуждает переделывать часть концептуальных решений после первого плейтеста. Оптимизация занимает существенную долю времени — для мобильного VR (Quest) до 60-70% цикла. Для проектов под Quest начинаем оптимизацию с первого спринта. Стоимость интеграции базового SDK (XR Interaction Toolkit) обычно варьируется от 200 000 до 600 000 рублей в зависимости от объёма кастомных Interactable. Средний бюджет полного проекта под Quest составляет от 1 500 000 до 4 000 000 рублей.

Получите консультацию по вашему проекту — оценим задачу, стек и сроки. Закажите разработку VR/AR-приложения под ключ с гарантией стабильного фреймрейта.