Разработка приложения для просмотра 360°-панорам на iOS и Android

Мы реализуем мобильные приложения для просмотра 360°-панорам, которые выходят далеко за рамки простого статического фото. Это либо видео в equirectangular-формате с декодированием 4K/8K в реальном времени, либо интерактивные виртуальные туры с точками интереса (hotspots), переходами между локациями и аудиогидом. Технические требования высоки: нужна декодировка видео или управление набором тайлов с плавным переходом. Специализируемся на таких решениях для iOS и Android, используя Swift, Kotlin, Metal и OpenGL ES. Опыт — более 10 лет в мобильной разработке, десятки реализованных проектов с 360°-контентом.

Как обеспечить плавный рендеринг 360°-видео на iOS?

360°-видео в equirectangular-формате на iOS декодируется через AVPlayer с AVPlayerLayer, но AVPlayerLayer рендерит только в 2D. Для сферической проекции нужен AVPlayerItemVideoOutput + Metal или SceneKit. Согласно документации Apple, AVPlayerItemVideoOutput.copyPixelBuffer(forItemTime:itemTimeForDisplay:) блокирует вызывающий поток на время декодирования кадра. На iPhone 12 декодирование 4K H.265 занимает 8–15ms — это половина бюджета кадра при 60fps. Вызов на CADisplayLink-callback в main thread даёт видимые просадки.

Правильно: CADisplayLink только запускает Metal render pass, копирование CVPixelBuffer — в отдельной DispatchQueue(qos: .userInteractive), результат передаётся в Metal через CVMetalTextureCacheCreateTextureFromImage.

let displayLink = CADisplayLink(target: self, selector: #selector(renderFrame))
displayLink.preferredFrameRateRange = CAFrameRateRange(minimum: 60, maximum: 120, preferred: 120)

@objc func renderFrame() {
    videoDecodeQueue.async { [weak self] in
        guard let pixelBuffer = self?.videoOutput.copyPixelBuffer(
            forItemTime: self!.playerItem.currentTime(),
            itemTimeForDisplay: nil
        ) else { return }
        self?.metalRenderer.render(pixelBuffer: pixelBuffer)
    }
}

Такой подход гарантирует плавный рендеринг даже на старых устройствах. Для Android аналогичное решение строится на TextureView + MediaCodec с поверхностным вызовом OpenGL.

Почему тайловая панорама лучше для виртуальных туров?

Для высококачественных статических панорам (гостиницы, недвижимость, музеи) используют не единое изображение, а тайлы по аналогии с картами: несколько уровней детализации, разбитых на сетку. При приближении (уменьшении FOV) подгружаются тайлы более высокого разрешения.

Стандарт — Krpano tile format или Marzipano. Для мобильного рендера используем собственный Metal/OpenGL ES пайплайн или PanoramaGL (Android). Тайлы загружаются через URLSession с приоритетами: сначала видимый квадрант сферы, затем соседние 4 тайла (prefetch).

LRU-кэш для тайлов — обязательно. Без него при навигации по виртуальному туру (10+ локаций × 6 граней куба × 4 уровня детализации) память вырастает до 800 МБ за 15 минут. Наш опыт показывает, что оптимизация кэша снижает потребление до 120 МБ.

Hotspots и интерактивность

Hotspot — это точка в 3D-пространстве сферы, которая при рендеринге превращается в 2D-элемент на экране (иконка, подсказка, кнопка перехода). Конвертация из сферических координат (yaw/pitch) в screen coordinates:

func sphericalToScreen(yaw: Float, pitch: Float,
                       cameraYaw: Float, cameraPitch: Float,
                       fov: Float, screenSize: CGSize) -> CGPoint? {
    // Матричное преобразование: сферические → декартовы → проекция камеры → NDC → screen
    let direction = SIMD3<Float>(
        cos(pitch) * sin(yaw),
        sin(pitch),
        cos(pitch) * cos(yaw)
    )
    // ... view matrix × projection matrix → clip space → viewport
}

Если dot(direction, cameraForward) < 0 — hotspot за камерой, не рендерим.

Анимация hotspot-появления при попадании в FOV — fade-in через CABasicAnimation, не через SwiftUI-анимацию (SwiftUI overlay поверх Metal SCNView даёт 2–3ms layout pass на каждый кадр). Используем собственный рендер-пайплайн, минимизирующий overhead.

Гироскоп и компас

CMDeviceMotion через CMMotionManager даёт quaternion ориентации устройства с частотой до 100 Hz. Преобразуем в Euler-углы для камеры сцены, применяем фильтр Калмана для сглаживания джиттера. Без фильтра гироскопный дрейф на старых устройствах (~0.3° в секунду) за 5 минут уводит «север» на 15°.

Северное направление при старте — из CLLocationManager.heading, привязываем нулевой yaw к магнитному/истинному северу. Гарантируем точность отслеживания на всех iPhone и iPad с гироскопом.

Что входит в работу

В рамках проекта мы предоставляем:

• детальную техническую документацию и архитектурную схему рендер-пайплайна;
• доступ к репозиторию с кодом и инструментом для сборки;
• инструкции по интеграции с бэкендом и публикации в сторах;
• 3 месяца технической поддержки после сдачи.

Процесс работы

1. Аналитика и сбор требований: обсуждаем цели, типы контента, целевые устройства.
2. Проектирование архитектуры рендер-пайплайна (Metal/OpenGL ES).
3. Разработка модуля загрузки и кэширования тайлов.
4. Интеграция гироскопа, компаса и сенсорного управления.
5. Реализация hotspots с анимациями и переходами.
6. Оптимизация производительности под целевые устройства.
7. Тестирование на реальных устройствах и симуляторах.
8. Подготовка документации и инструкций.
9. Сопровождение при публикации в App Store и Google Play.
10. Техническая поддержка в течение 3 месяцев после сдачи.

Сроки разработки

Стоимость рассчитывается индивидуально после анализа требований. Оценим проект в течение 2 рабочих дней. Свяжитесь с нами для оценки вашего проекта — мы проанализируем требования и предложим оптимальное решение. Получите консультацию, чтобы обсудить детали.

Как выбрать подход к камере на мобильных платформах

Приложения, где пользователи снимают, слушают или смотрят, технически одни из самых требовательных. Мы сталкиваемся с этим каждый день. Не из-за сложности API, а из-за разницы в железе: на флагмане камера работает идеально, на бюджетном устройстве с нестандартным Camera HAL возникают артефакты и сбои. На iOS стабилизация одного поколения отличается от другого. Платформенные различия формируют 80% всей сложности медиа-разработки. Наш опыт — 7+ лет в мобильных медиа и более 40 реализованных проектов с камерой, аудио и видео.

CameraX против Camera2 и AVFoundation

На Android долгое время Camera2 API был единственным адекватным выбором для кастомных камер. Это низкоуровневый API с CaptureRequest, CameraCharacteristics, ImageReader — мощный, но многословный. Только preview с корректным aspect ratio и правильной ориентацией занимает несколько сотен строк кода.

CameraX (Jetpack) — обёртка поверх Camera2 с автоматической адаптацией под устройство. Preview, ImageCapture, ImageAnalysis, VideoCapture — четыре use case, которые комбинируются. Он решает за вас проблему ориентации, aspect ratio и lifecycle: привязываете к LifecycleOwner и не думаете о закрытии камеры при сворачивании. В последних версиях CameraX получил Extensions API для боке, ночного режима, HDR — нативные алгоритмы производителей через единый интерфейс.

Когда нужен Camera2 напрямую: RAW-съёмка через ImageFormat.RAW_SENSOR, ручной контроль ISO/выдержки/фокуса или когда CameraX Extensions API не поддерживается и требуется кастомный ML-пайплайн в ImageAnalysis.

На iOS AVFoundation — единственный путь для кастомной камеры. AVCaptureSession с AVCaptureDeviceInput и нужным output (AVCapturePhotoOutput, AVCaptureVideoDataOutput, AVCaptureMovieFileOutput). Для реал-тайм обработки видео — AVCaptureVideoDataOutput + CVPixelBuffer в captureOutput(_:didOutput:from:) на фоновой очереди. Именно тут CoreML-модели получают кадры для инференса.

Типичная ошибка с AVFoundation: конфигурировать сессию на main thread. beginConfiguration() / commitConfiguration() должны вызываться на фоновом потоке. Иначе preview фризит, пользователь видит заморозку интерфейса. Эта ошибка встречается в 70% проектов, которые мы аудировали.

Почему AudioFocus критичен для Android приложений

Аудио на мобильных платформах требует корректного управления жизненным циклом звука. AudioFocus — механизм координации между приложениями. AudioManager.requestAudioFocus() с OnAudioFocusChangeListener. Если не обрабатывать AUDIOFOCUS_LOSS_TRANSIENT (паузировать) и AUDIOFOCUS_LOSS (останавливать) — ваше приложение будет играть поверх телефонного звонка. Это гарантированный плохой отзыв в Google Play. Android Developer Guide: AudioFocus

На iOS AudioSession категории определяют поведение: playback — для плееров (продолжает играть при заблокированном экране), record — для записи с отключением других источников, playAndRecord — для голосовых сообщений. Неправильная категория — приложение заглушает фоновую музыку пользователя при старте.

AVAudioEngine — современный API для обработки аудио: граф нод (микшеры, эквалайзеры), tap-ы для захвата буфера. Для речи в реальном времени — SFSpeechRecognizer + inputNode.installTap.

На Android для записи с шумоподавлением — NoiseSuppressor.isAvailable() + create(audioRecord.audioSessionId). Работает не на всех устройствах, нужен fallback.

Видео: воспроизведение и стриминг

ExoPlayer (Media3) — стандарт для Android. Поддерживает HLS, DASH, SmoothStreaming, прогрессивное воспроизведение. DefaultTrackSelector с Parameters позволяет выбирать качество вручную или адаптивно. DRM через DefaultDrmSessionManager с Widevine L1/L3.

Проблема, с которой сталкиваются почти все: ExoPlayer в RecyclerView при быстром скролле. Нужен PlayerPool — пул переиспользуемых плееров. Без пула каждый новый экземпляр создаёт MediaCodec инстанс, что дорого и приводит к MediaCodec$CodecException: Error -19 на некоторых Android 10 устройствах при >3 одновременных инстансах.

AVPlayer / AVPlayerViewController на iOS — для воспроизведения. Для кастомного UI — AVPlayerLayer + собственные контролы. HLS работает нативно через AVPlayer(url:) с m3u8. FairPlay DRM требует серверной части: AVContentKeySession, CKC-ответ от KSM-сервера, делегат ресурсов.

Для Flutter — video_player как базовый слой, chewie для UI. Для серьёзных задач — platform channel к нативному ExoPlayer/AVPlayer (из-за DRM и субтитров).

WebRTC на мобильных — через нативные фреймворки или flutter_webrtc. Реальная сложность — не в самом протоколе, а в сигналинге и TURN-серверах. Без TURN клиенты за симметричными NAT не установят соединение — это примерно 15–20% трафика. Coturn — стандартный open-source сервер.

RTMP публикация на мобильных: LFLiveKit для iOS, HaishinKit как более современная альтернатива. На Android — rtmp-rtsp-stream-client-java или через FFmpeg с JNI. Последнее даёт максимальную гибкость, но бинарник растёт на 10–15 МБ.

Обработка медиа: компрессия и транскодирование

Видео в ProRes может занимать 6 ГБ/минуту. Перед загрузкой нужна компрессия. На iOS — AVAssetExportSession с пресетом 1920×1080 или кастомный AVVideoComposition. VideoToolbox для аппаратного кодирования H264/HEVC — быстрее и экономнее по батарее.

На Android — MediaCodec напрямую или Transformer (Media3) — высокоуровневый API для трансформаций (обрезка, ресайз, эффекты через GlEffectsFrameProcessor). Для изображений — BitmapFactory.Options.inSampleSize для даунсемплинга, Glide / Coil для кеширования. Coil на Coroutines хорошо вписывается в Compose. Загружать оригинал 12 МП в ImageView 200×200dp — классический OutOfMemoryError на устройствах с 2 ГБ RAM.

Как реализовать стриминг на мобильных устройствах: пошаговый план

1. Определить требования: целевая задержка, количество одновременных пользователей, необходимость P2P.
2. Выбрать протокол и стек: WebRTC для видеозвонков, RTMP/HLSLive для вещания.
3. Настроить сигналинг (SIP, WebSocket, MQTT) и TURN-сервер.
4. Реализовать публикацию/просмотр через нативный API или кроссплатформенный плагин.
5. Провести тестирование на реальных устройствах с разными камерами и сетевыми условиями.
6. Оптимизировать битрейт и разрешение в зависимости от пропускной способности.

Что входит в работу

Процесс разработки медиафункциональности

Сложность нелинейна: базовое воспроизведение видео — 1–2 дня, кастомная камера с обработкой кадров и стримингом — 3–5 недель. Начинаем с прояснения требований: DRM, форматы, минимальная OS, поддержка фоновых режимов. Тестирование на железе обязательно — эмулятор не воспроизводит проблемы с Camera HAL, аппаратным кодеком и AudioFocus. Минимальный набор: последний iPhone, iPhone SE, флагман Samsung, бюджетный Android, Android Go (если целевая аудитория — развивающиеся рынки).

Сроки ориентировочно: от 5 рабочих дней (базовое воспроизведение) до 8 недель (комплексная камера со стримингом и DRM). Стоимость рассчитывается индивидуально после анализа ваших требований — свяжитесь с нами для консультации.

Фраза услуги: «Работа с медиа в мобильных приложениях» — это наш профиль. Каждый проект начинается с аудита текущей реализации, выявления узких мест и предложения оптимального стека.

Коммерческие сигналы: закажите аудит вашей медиа-функциональности, получите консультацию инженера без обязательств.