К нам приходит клиент с задачей: смотреть камеру видеонаблюдения прямо в приложении. Звучит просто, но на практике возникает ряд проблем. RTSP-поток от IP-камеры нельзя открыть нативными плеерами iOS и Android напрямую. RTMP устарел. WebRTC работает, но требует сигнальный сервер. Низкая задержка в 200 мс — это совсем другая архитектура, чем HLS с 5-секундным буфером. Мы за 5+ лет разработали проверенные решения для этих сценариев и реализовали более 50 проектов потокового видео.
В этой статье разберем реальные технические подходы: транскодирование на сервере, нативный RTSP-декодер и WebRTC-клиент. Вы узнаете, как реализовать PTZ-управление, запись и мультикамерность. Получите консультацию по вашему проекту.
Почему RTSP нельзя открыть нативным плеером?
AVPlayer не поддерживает rtsp:// — только http(s):// и HLS. ExoPlayer официально убрал RTSP в Media3 (хотя поддержка есть через RtspMediaSource, она нестабильна на ряде производителей с нестандартными прошивками). На Flutter нет зрелого нативного RTSP-плеера. Как указано в документации Apple, это архитектурное ограничение.
Рабочих подходов два.
Транскодирование на сервере (RTSP → HLS/WebRTC)
Медиасервер (MediaMTX, Nginx-RTMP + ffmpeg, Ant Media Server) принимает RTSP от камеры и отдаёт HLS или WebRTC endpoint клиенту. Клиент получает HLS — AVPlayer / ExoPlayer читают без проблем. Задержка HLS: 3-8 секунд при стандартном чанке 2 сек. Для мониторинга это приемлемо. Для домофона — нет.
paths:
cam1:
source: rtsp://admin:[email protected]:554/stream1
hlsAlwaysRemux: yes
Клиент подключается к http://media-server/cam1/index.m3u8.
Нативный RTSP-декодер в приложении
iOS: VLCKit (MobileVLCKit) — обёртка над libVLC. Поддерживает RTSP, RTMP, H.264, H.265. VLCMediaPlayer с drawable = UIView — рендерит прямо в view. Задержка: 500-800 мс при сетевом буфере 300 мс. Минус: бинарник +30 МБ, App Store принимает без проблем.
Кастомный путь: FFmpeg через ffmpeg-kit-ios (FFmpegKitConfig.executeAsync), декодируем поток и рендерим через AVSampleBufferDisplayLayer. Даёт полный контроль над буферизацией и задержкой (можно довести до 100-200 мс при rtsp_transport tcp и минимальном analyzeduration). Сложнее в реализации, но результат лучше.
Android: ExoPlayer RtspMediaSource — для простых случаев. Для сложных (RTSP через TCP, H.265, многопоточные камеры) — ijkplayer или FFmpegKit. ijkplayer работает с Jetpack Compose через AndroidView.
Flutter: flutter_vlc_player (MobileVLCKit / libVLC Android) — кросс-платформенный вариант. video_player плагин RTSP не поддерживает.
Что выбрать: RTSP или WebRTC?
Если задержка не критична (мониторинг склада), достаточно RTSP через VLCKit/FFmpegKit. Если важна интерактивность (домофон, управление PTZ-камерой), WebRTC — правильный выбор с задержкой 100-300 мс.
Архитектура WebRTC: IoT-камера → WebRTC-совместимый медиасервер (Janus, Kurento, MediaSoup, Ant Media) → мобильный клиент через ICE/STUN/TURN.
iOS: WebRTC framework (pod 'GoogleWebRTC' или pod 'WebRTC-SDK'). Создаём RTCPeerConnection, получаем SDP offer от сервера, отвечаем answer, получаем RTCVideoTrack и рендерим через RTCMTLVideoView (Metal-рендеринг, аппаратное ускорение). Сигнализация — WebSocket (Starscream, URLSessionWebSocketTask).
Android: io.getstream:stream-webrtc-android или официальный WebRTC за Google. SurfaceViewRenderer для рендеринга VideoTrack.
Flutter: flutter_webrtc — использует нативный WebRTC под капотом. RTCVideoRenderer + RTCVideoView.
Для прохождения через NAT обязателен STUN (бесплатный Google stun.l.google.com:19302) и TURN-сервер для симметричных NAT (Coturn на своём сервере).
Как реализовать PTZ-управление?
Pan/Tilt/Zoom через ONVIF или проприетарный HTTP API камеры. На мобильном: UIPanGestureRecognizer → вычисляем дельту → отправляем ONVIF ContinuousMove запрос через HTTP. Pinch → AbsoluteMove с zoom-координатой.
Дроблинг запросов: не отправляем каждое событие жеста — throttle(300ms), иначе камера не успевает обрабатывать команды.
Запись и снапшоты
Снапшот с камеры: дешевле запросить JPEG snapshot URL напрямую у камеры (большинство IP-камер поддерживают http://cam/snapshot.jpg) чем захватывать кадр из видеопотока.
Запись потока на устройстве: AVAssetWriter (iOS) пишет CMSampleBuffer из декодированного потока в MP4. На Android — MediaMuxer + MediaCodec. Для записи на сервере — ffmpeg -i rtsp://... -c copy output.mp4 через медиасервер.
Мультикамерность
Список камер + миниатюры потоков. Не воспроизводим все потоки одновременно — только активную. Превью: статичный snapshot, обновляемый каждые 5 секунд (URLSession.dataTask + UIImageView). Экономит батарею и трафик на 90%.
| Платформа |
RTSP-библиотека |
Задержка |
Особенности |
| iOS |
MobileVLCKit |
500-800 мс |
+30 МБ, App Store одобрен |
| iOS |
ffmpeg-kit |
100-200 мс |
Полный контроль |
| Android |
ExoPlayer |
300-800 мс |
Просто, но нестабильно |
| Android |
ijkplayer |
200-500 мс |
Работает с H.265 |
| Flutter |
flutter_vlc_player |
500-800 мс |
Кроссплатформа |
| Протокол |
Задержка |
Сложность клиента |
Прим. |
| HLS (RTSP→HLS на сервере) |
3-8 сек |
Низкая (нативный плеер) |
Мониторинг |
| RTSP (VLCKit/FFmpegKit) |
300-800 мс |
Средняя |
Универсально |
| WebRTC |
100-300 мс |
Высокая |
Домофон, PTZ |
Процесс работы
- Анализ камеры и сети — проверяем протоколы, разрешение, NAT-прохождение.
- Выбор протокола и архитектуры — на основе требований к задержке.
- Интеграция плеера и тестовый стенд — запускаем демо с одной камерой.
- Оптимизация буферизации и рендеринга — добиваемся целевой задержки.
- ПТЗ, запись, мультикамерность — реализуем дополнительные функции.
- Тестирование на устройствах — проверяем на iOS, Android, разных прошивках.
- Передача кода и документации — обучаем команду заказчика.
Мы помогаем выбрать оптимальный протокол, что позволяет сэкономить бюджет. Стоимость разработки обсуждается после аудита вашего проекта. Свяжитесь с нами для бесплатного аудита вашего проекта. Закажите разработку видеопотока — получите консультацию по проекту.
Что входит в работу
- Архитектурная документация с выбором протоколов и конфигураций
- Развертывание демо-среды с одной камерой для тестирования
- Интеграция WebRTC с сигнальным сервером и TURN
- Обучение команды заказчика работе с кодом и конфигами
- Поддержка после запуска: гарантия 12 месяцев на решение
Сроки ориентировочно: от 3 дней до 3 недель в зависимости от сложности. Оценим ваш проект в течение 2 рабочих дней. Мы гарантируем работоспособность на всех устройствах.
Как выбрать подход к камере на мобильных платформах
Приложения, где пользователи снимают, слушают или смотрят, технически одни из самых требовательных. Мы сталкиваемся с этим каждый день. Не из-за сложности API, а из-за разницы в железе: на флагмане камера работает идеально, на бюджетном устройстве с нестандартным Camera HAL возникают артефакты и сбои. На iOS стабилизация одного поколения отличается от другого. Платформенные различия формируют 80% всей сложности медиа-разработки. Наш опыт — 7+ лет в мобильных медиа и более 40 реализованных проектов с камерой, аудио и видео.
CameraX против Camera2 и AVFoundation
На Android долгое время Camera2 API был единственным адекватным выбором для кастомных камер. Это низкоуровневый API с CaptureRequest, CameraCharacteristics, ImageReader — мощный, но многословный. Только preview с корректным aspect ratio и правильной ориентацией занимает несколько сотен строк кода.
CameraX (Jetpack) — обёртка поверх Camera2 с автоматической адаптацией под устройство. Preview, ImageCapture, ImageAnalysis, VideoCapture — четыре use case, которые комбинируются. Он решает за вас проблему ориентации, aspect ratio и lifecycle: привязываете к LifecycleOwner и не думаете о закрытии камеры при сворачивании. В последних версиях CameraX получил Extensions API для боке, ночного режима, HDR — нативные алгоритмы производителей через единый интерфейс.
Когда нужен Camera2 напрямую: RAW-съёмка через ImageFormat.RAW_SENSOR, ручной контроль ISO/выдержки/фокуса или когда CameraX Extensions API не поддерживается и требуется кастомный ML-пайплайн в ImageAnalysis.
На iOS AVFoundation — единственный путь для кастомной камеры. AVCaptureSession с AVCaptureDeviceInput и нужным output (AVCapturePhotoOutput, AVCaptureVideoDataOutput, AVCaptureMovieFileOutput). Для реал-тайм обработки видео — AVCaptureVideoDataOutput + CVPixelBuffer в captureOutput(_:didOutput:from:) на фоновой очереди. Именно тут CoreML-модели получают кадры для инференса.
Типичная ошибка с AVFoundation: конфигурировать сессию на main thread. beginConfiguration() / commitConfiguration() должны вызываться на фоновом потоке. Иначе preview фризит, пользователь видит заморозку интерфейса. Эта ошибка встречается в 70% проектов, которые мы аудировали.
Почему AudioFocus критичен для Android приложений
Аудио на мобильных платформах требует корректного управления жизненным циклом звука. AudioFocus — механизм координации между приложениями. AudioManager.requestAudioFocus() с OnAudioFocusChangeListener. Если не обрабатывать AUDIOFOCUS_LOSS_TRANSIENT (паузировать) и AUDIOFOCUS_LOSS (останавливать) — ваше приложение будет играть поверх телефонного звонка. Это гарантированный плохой отзыв в Google Play. Android Developer Guide: AudioFocus
На iOS AudioSession категории определяют поведение: playback — для плееров (продолжает играть при заблокированном экране), record — для записи с отключением других источников, playAndRecord — для голосовых сообщений. Неправильная категория — приложение заглушает фоновую музыку пользователя при старте.
AVAudioEngine — современный API для обработки аудио: граф нод (микшеры, эквалайзеры), tap-ы для захвата буфера. Для речи в реальном времени — SFSpeechRecognizer + inputNode.installTap.
На Android для записи с шумоподавлением — NoiseSuppressor.isAvailable() + create(audioRecord.audioSessionId). Работает не на всех устройствах, нужен fallback.
Видео: воспроизведение и стриминг
ExoPlayer (Media3) — стандарт для Android. Поддерживает HLS, DASH, SmoothStreaming, прогрессивное воспроизведение. DefaultTrackSelector с Parameters позволяет выбирать качество вручную или адаптивно. DRM через DefaultDrmSessionManager с Widevine L1/L3.
Проблема, с которой сталкиваются почти все: ExoPlayer в RecyclerView при быстром скролле. Нужен PlayerPool — пул переиспользуемых плееров. Без пула каждый новый экземпляр создаёт MediaCodec инстанс, что дорого и приводит к MediaCodec$CodecException: Error -19 на некоторых Android 10 устройствах при >3 одновременных инстансах.
AVPlayer / AVPlayerViewController на iOS — для воспроизведения. Для кастомного UI — AVPlayerLayer + собственные контролы. HLS работает нативно через AVPlayer(url:) с m3u8. FairPlay DRM требует серверной части: AVContentKeySession, CKC-ответ от KSM-сервера, делегат ресурсов.
Для Flutter — video_player как базовый слой, chewie для UI. Для серьёзных задач — platform channel к нативному ExoPlayer/AVPlayer (из-за DRM и субтитров).
| Протокол |
Задержка |
Применение |
| RTMP |
2–5 сек |
Стриминг на YouTube/Twitch |
| HLS |
6–30 сек |
VOD, широковещательный |
| DASH |
6–30 сек |
VOD с адаптивным битрейтом |
| WebRTC |
< 500 мс |
Видеозвонки, P2P |
| SRT |
1–4 сек |
Профессиональный стриминг |
WebRTC на мобильных — через нативные фреймворки или flutter_webrtc. Реальная сложность — не в самом протоколе, а в сигналинге и TURN-серверах. Без TURN клиенты за симметричными NAT не установят соединение — это примерно 15–20% трафика. Coturn — стандартный open-source сервер.
RTMP публикация на мобильных: LFLiveKit для iOS, HaishinKit как более современная альтернатива. На Android — rtmp-rtsp-stream-client-java или через FFmpeg с JNI. Последнее даёт максимальную гибкость, но бинарник растёт на 10–15 МБ.
Обработка медиа: компрессия и транскодирование
Видео в ProRes может занимать 6 ГБ/минуту. Перед загрузкой нужна компрессия. На iOS — AVAssetExportSession с пресетом 1920×1080 или кастомный AVVideoComposition. VideoToolbox для аппаратного кодирования H264/HEVC — быстрее и экономнее по батарее.
На Android — MediaCodec напрямую или Transformer (Media3) — высокоуровневый API для трансформаций (обрезка, ресайз, эффекты через GlEffectsFrameProcessor). Для изображений — BitmapFactory.Options.inSampleSize для даунсемплинга, Glide / Coil для кеширования. Coil на Coroutines хорошо вписывается в Compose. Загружать оригинал 12 МП в ImageView 200×200dp — классический OutOfMemoryError на устройствах с 2 ГБ RAM.
Как реализовать стриминг на мобильных устройствах: пошаговый план
- Определить требования: целевая задержка, количество одновременных пользователей, необходимость P2P.
- Выбрать протокол и стек: WebRTC для видеозвонков, RTMP/HLSLive для вещания.
- Настроить сигналинг (SIP, WebSocket, MQTT) и TURN-сервер.
- Реализовать публикацию/просмотр через нативный API или кроссплатформенный плагин.
- Провести тестирование на реальных устройствах с разными камерами и сетевыми условиями.
- Оптимизировать битрейт и разрешение в зависимости от пропускной способности.
Типичные ошибки при разработке медиа-функциональности
- Конфигурация AVFoundation сессии на главном потоке.
- Отсутствие обработки AudioFocus Loss на Android.
- Игнорирование
MediaCodec ограничений на дешёвых устройствах.
- Использование эмулятора для тестов камеры — эмулятор не воспроизводит проблемы HAL.
- Утечка памяти при пересоздании медиаплееров без пула.
Что входит в работу
| Deliverable |
Описание |
| Анализ требований |
Выбор стека, приоритетов, тестовых устройств |
| Проектирование |
Архитектура, диаграммы потоков данных, выбор API |
| Реализация |
Код с использованием выбранных инструментов |
| Интеграция с бэкендом |
GraphQL/REST, DRM, WebRTC сигналинг |
| Тестирование |
На реальных устройствах (не менее 5 моделей) |
| Документация |
API-документация, инструкция по сборке |
| Поддержка после релиза |
1 месяц инцидентной поддержки, обучение команды |
Процесс разработки медиафункциональности
Сложность нелинейна: базовое воспроизведение видео — 1–2 дня, кастомная камера с обработкой кадров и стримингом — 3–5 недель. Начинаем с прояснения требований: DRM, форматы, минимальная OS, поддержка фоновых режимов. Тестирование на железе обязательно — эмулятор не воспроизводит проблемы с Camera HAL, аппаратным кодеком и AudioFocus. Минимальный набор: последний iPhone, iPhone SE, флагман Samsung, бюджетный Android, Android Go (если целевая аудитория — развивающиеся рынки).
Сроки ориентировочно: от 5 рабочих дней (базовое воспроизведение) до 8 недель (комплексная камера со стримингом и DRM). Стоимость рассчитывается индивидуально после анализа ваших требований — свяжитесь с нами для консультации.
Фраза услуги: «Работа с медиа в мобильных приложениях» — это наш профиль. Каждый проект начинается с аудита текущей реализации, выявления узких мест и предложения оптимального стека.
Коммерческие сигналы: закажите аудит вашей медиа-функциональности, получите консультацию инженера без обязательств.
