Интеграция прямых трансляций (Live Streaming) в мобильное приложение

Интеграция прямых трансляций (Live Streaming) в мобильное приложение

При попытке добавить live-стриминг в фитнес-приложение наш клиент столкнулся с задержкой более 20 секунд на HLS. Тренер выполнял упражнение, а зрители видели его действия с опозданием — это разрушало интерактивность. Мы предложили альтернативу: WebRTC с задержкой 500 мс и HLS для записи. WebRTC обеспечивает задержку в 30 раз меньше HLS. За 4 недели развернули систему, которая выдержала 10 000 одновременных зрителей. Закажите аудит вашего приложения — мы определим оптимальную архитектуру.

Основные технические проблемы

Задержка и буферизация. HLS нарезает поток на сегменты по 6 секунд — итоговая задержка 15–30 с. Для интерактива (голосования, чат) это неприемлемо. LL-HLS уменьшает до 2–5 с, но требует поддержки на сервере и iOS 14+. WebRTC решает проблему кардинально, но сложнее в масштабировании.

Синхронизация аудио/видео. При кодировании на мобильном устройстве важно выставить GOP size и битрейт. В нашем проекте на Android использовали MediaCodec с фиксированным GOP=2 и битрейтом 2 Мбит/с — это дало стабильную картинку даже при падении скорости до 1 Мбит/с.

Масштабирование медиасервера. Один сервер Wowza держит до 1000 подключений. Для 10 000 зрителей пришлось настроить кластер из 4 нод с балансировкой через AWS ALB. Cloudflare Stream снимает эту боль, но дороже.

Как мы это делаем: стек и конфигурации

Начинаем с аудита требований: целевая задержка, ожидаемая аудитория, бюджет. Для MVP выбираем RTMP → HLS. Для продакшена с низкой задержкой — WebRTC + LL-HLS fallback.

iOS стриминг. Базовый стек: Swift 5.9, HaishinKit (RTMP/ SRT/ HLS). Пример конфигурации:

let rtmpStream = RTMPStream(connection: RTMPConnection())
rtmpStream.videoSettings = VideoCodecSettings(
    videoSize: CGSize(width: 1280, height: 720),
    bitRate: 2_000_000,
    frameInterval: 2,
    frameRate: 30
)
rtmpStream.audioSettings = AudioCodecSettings(bitRate: 128_000)

Android стриминг. Streampack или собственный код на CameraX + MediaCodec + RTMP-клиент.

val streamer = CameraStreamer(context, enableAudio = true)
streamer.configure(
    AudioConfig(startBitrate = 128_000, sampleRate = 44100, channelConfig = CHANNEL_IN_STEREO),
    VideoConfig(startBitrate = 2_000_000, resolution = Size(1280, 720), fps = 30)
)

Медиасервер. Используем Wowza Streaming Engine или Ant Media Server. Для WebRTC — Ant Media или Janus.

Как снизить задержку стрима до 500 мс?

Переход на WebRTC — единственный способ получить задержку < 1 с. Ключевые шаги:

1. Развернуть сигнальный сервер (например, на Node.js + Socket.io).
2. Настроить TURN-сервер (coturn) для пробоя NAT.
3. Выбрать медиасервер, поддерживающий WHIP-инжест (Cloudflare Stream, Ant Media 2.x).
4. На мобильном клиенте использовать WebRTC.org SDK (Google для Android, native для iOS).

Для массового просмотра (1000+ зрителей) WebRTC перегружает сервер — используйте SFU (Selective Forwarding Unit). Ant Media и Janus поддерживают SFU. Источник: WebRTC

Почему WebRTC не всегда подходит для массовых трансляций?

WebRTC требует постоянного P2P-соединения или SFU. Каждый зритель потребляет около 2 Мбит/с нисходящего трафика. Для 10 000 зрителей нужно 20 Гбит/с — дорого. Альтернатива: транскодировать поток в HLS на сервере и раздавать через CDN. Это увеличивает задержку, но экономит ресурсы. Мы используем гибридную схему: интерактивные сценарии (голосование) через WebRTC для небольшой группы, массовый просмотр — через HLS.

Сравнение протоколов

Сравнение медиасерверов

Процесс работы

1. Аналитика — замеряем требования к задержке, аудитории, устройству. Определяем протокол и сервер.
2. Проектирование — архитектура клиент-сервер, схема потоков, конфигурация медиасервера.
3. Реализация — пишем код на Swift/Kotlin/Flutter, настраиваем сервер, тестируем на реальных устройствах.
4. Тестирование — нагрузочное (до 10 000 виртуальных зрителей) и сетевое (3G, 4G, Wi-Fi).
5. Деплой — CI/CD, мониторинг (Prometheus + Grafana), документация.

Что входит в работу

• Аудит текущего приложения и подбор архитектуры.
• Интеграция стриминга на одной платформе (iOS или Android) с RTMP.
• Развёртывание медиасервера (Wowza или Ant Media).
• Чат на WebSocket/Firebase с базовой модерацией.
• Нагрузочное тестирование и оптимизация.
• Инструкции для разработчиков и админов.

Сроки ориентировочно

• MVP (один протокол, одна платформа, без чата) — 2–3 недели.
• Полноценная система (две платформы, LL-HLS/WebRTC, чат, запись) — 2–3 месяца.

Стоимость рассчитывается индивидуально после аудита. Обращайтесь — назовём точную цифру.

Типичные ошибки

• Использовать HLS для интерактива — задержка убьёт UX.
• Не настраивать GOP — при падении пакетов артефакты.
• Забыть про TURN-сервер для WebRTC — клиенты за NAT не подключатся.
• Экономить на медиасервере — при росте аудитории всё упадёт.

Свяжитесь с нами для консультации — подберём оптимальное решение под ваш бюджет и сроки. Гарантируем стабильную работу даже при пиковых нагрузках.

Как выбрать подход к камере на мобильных платформах

Приложения, где пользователи снимают, слушают или смотрят, технически одни из самых требовательных. Мы сталкиваемся с этим каждый день. Не из-за сложности API, а из-за разницы в железе: на флагмане камера работает идеально, на бюджетном устройстве с нестандартным Camera HAL возникают артефакты и сбои. На iOS стабилизация одного поколения отличается от другого. Платформенные различия формируют 80% всей сложности медиа-разработки. Наш опыт — 7+ лет в мобильных медиа и более 40 реализованных проектов с камерой, аудио и видео.

CameraX против Camera2 и AVFoundation

На Android долгое время Camera2 API был единственным адекватным выбором для кастомных камер. Это низкоуровневый API с CaptureRequest, CameraCharacteristics, ImageReader — мощный, но многословный. Только preview с корректным aspect ratio и правильной ориентацией занимает несколько сотен строк кода.

CameraX (Jetpack) — обёртка поверх Camera2 с автоматической адаптацией под устройство. Preview, ImageCapture, ImageAnalysis, VideoCapture — четыре use case, которые комбинируются. Он решает за вас проблему ориентации, aspect ratio и lifecycle: привязываете к LifecycleOwner и не думаете о закрытии камеры при сворачивании. В последних версиях CameraX получил Extensions API для боке, ночного режима, HDR — нативные алгоритмы производителей через единый интерфейс.

Когда нужен Camera2 напрямую: RAW-съёмка через ImageFormat.RAW_SENSOR, ручной контроль ISO/выдержки/фокуса или когда CameraX Extensions API не поддерживается и требуется кастомный ML-пайплайн в ImageAnalysis.

На iOS AVFoundation — единственный путь для кастомной камеры. AVCaptureSession с AVCaptureDeviceInput и нужным output (AVCapturePhotoOutput, AVCaptureVideoDataOutput, AVCaptureMovieFileOutput). Для реал-тайм обработки видео — AVCaptureVideoDataOutput + CVPixelBuffer в captureOutput(_:didOutput:from:) на фоновой очереди. Именно тут CoreML-модели получают кадры для инференса.

Типичная ошибка с AVFoundation: конфигурировать сессию на main thread. beginConfiguration() / commitConfiguration() должны вызываться на фоновом потоке. Иначе preview фризит, пользователь видит заморозку интерфейса. Эта ошибка встречается в 70% проектов, которые мы аудировали.

Почему AudioFocus критичен для Android приложений

Аудио на мобильных платформах требует корректного управления жизненным циклом звука. AudioFocus — механизм координации между приложениями. AudioManager.requestAudioFocus() с OnAudioFocusChangeListener. Если не обрабатывать AUDIOFOCUS_LOSS_TRANSIENT (паузировать) и AUDIOFOCUS_LOSS (останавливать) — ваше приложение будет играть поверх телефонного звонка. Это гарантированный плохой отзыв в Google Play. Android Developer Guide: AudioFocus

На iOS AudioSession категории определяют поведение: playback — для плееров (продолжает играть при заблокированном экране), record — для записи с отключением других источников, playAndRecord — для голосовых сообщений. Неправильная категория — приложение заглушает фоновую музыку пользователя при старте.

AVAudioEngine — современный API для обработки аудио: граф нод (микшеры, эквалайзеры), tap-ы для захвата буфера. Для речи в реальном времени — SFSpeechRecognizer + inputNode.installTap.

На Android для записи с шумоподавлением — NoiseSuppressor.isAvailable() + create(audioRecord.audioSessionId). Работает не на всех устройствах, нужен fallback.

Видео: воспроизведение и стриминг

ExoPlayer (Media3) — стандарт для Android. Поддерживает HLS, DASH, SmoothStreaming, прогрессивное воспроизведение. DefaultTrackSelector с Parameters позволяет выбирать качество вручную или адаптивно. DRM через DefaultDrmSessionManager с Widevine L1/L3.

Проблема, с которой сталкиваются почти все: ExoPlayer в RecyclerView при быстром скролле. Нужен PlayerPool — пул переиспользуемых плееров. Без пула каждый новый экземпляр создаёт MediaCodec инстанс, что дорого и приводит к MediaCodec$CodecException: Error -19 на некоторых Android 10 устройствах при >3 одновременных инстансах.

AVPlayer / AVPlayerViewController на iOS — для воспроизведения. Для кастомного UI — AVPlayerLayer + собственные контролы. HLS работает нативно через AVPlayer(url:) с m3u8. FairPlay DRM требует серверной части: AVContentKeySession, CKC-ответ от KSM-сервера, делегат ресурсов.

Для Flutter — video_player как базовый слой, chewie для UI. Для серьёзных задач — platform channel к нативному ExoPlayer/AVPlayer (из-за DRM и субтитров).

WebRTC на мобильных — через нативные фреймворки или flutter_webrtc. Реальная сложность — не в самом протоколе, а в сигналинге и TURN-серверах. Без TURN клиенты за симметричными NAT не установят соединение — это примерно 15–20% трафика. Coturn — стандартный open-source сервер.

RTMP публикация на мобильных: LFLiveKit для iOS, HaishinKit как более современная альтернатива. На Android — rtmp-rtsp-stream-client-java или через FFmpeg с JNI. Последнее даёт максимальную гибкость, но бинарник растёт на 10–15 МБ.

Обработка медиа: компрессия и транскодирование

Видео в ProRes может занимать 6 ГБ/минуту. Перед загрузкой нужна компрессия. На iOS — AVAssetExportSession с пресетом 1920×1080 или кастомный AVVideoComposition. VideoToolbox для аппаратного кодирования H264/HEVC — быстрее и экономнее по батарее.

На Android — MediaCodec напрямую или Transformer (Media3) — высокоуровневый API для трансформаций (обрезка, ресайз, эффекты через GlEffectsFrameProcessor). Для изображений — BitmapFactory.Options.inSampleSize для даунсемплинга, Glide / Coil для кеширования. Coil на Coroutines хорошо вписывается в Compose. Загружать оригинал 12 МП в ImageView 200×200dp — классический OutOfMemoryError на устройствах с 2 ГБ RAM.

Как реализовать стриминг на мобильных устройствах: пошаговый план

1. Определить требования: целевая задержка, количество одновременных пользователей, необходимость P2P.
2. Выбрать протокол и стек: WebRTC для видеозвонков, RTMP/HLSLive для вещания.
3. Настроить сигналинг (SIP, WebSocket, MQTT) и TURN-сервер.
4. Реализовать публикацию/просмотр через нативный API или кроссплатформенный плагин.
5. Провести тестирование на реальных устройствах с разными камерами и сетевыми условиями.
6. Оптимизировать битрейт и разрешение в зависимости от пропускной способности.

Что входит в работу

Процесс разработки медиафункциональности

Сложность нелинейна: базовое воспроизведение видео — 1–2 дня, кастомная камера с обработкой кадров и стримингом — 3–5 недель. Начинаем с прояснения требований: DRM, форматы, минимальная OS, поддержка фоновых режимов. Тестирование на железе обязательно — эмулятор не воспроизводит проблемы с Camera HAL, аппаратным кодеком и AudioFocus. Минимальный набор: последний iPhone, iPhone SE, флагман Samsung, бюджетный Android, Android Go (если целевая аудитория — развивающиеся рынки).

Сроки ориентировочно: от 5 рабочих дней (базовое воспроизведение) до 8 недель (комплексная камера со стримингом и DRM). Стоимость рассчитывается индивидуально после анализа ваших требований — свяжитесь с нами для консультации.

Фраза услуги: «Работа с медиа в мобильных приложениях» — это наш профиль. Каждый проект начинается с аудита текущей реализации, выявления узких мест и предложения оптимального стека.

Коммерческие сигналы: закажите аудит вашей медиа-функциональности, получите консультацию инженера без обязательств.