Представьте: пользователь запускает стрим, но через минуту зрители жалуются на задержки и артефакты. Типичная ситуация: мобильное приложение использует программное кодирование, а сеть не справляется с пиковым битрейтом. В результате — потеря аудитории и негативные отзывы. Перегрев устройства и быстрый разряд батареи — ещё одна проблема программного кодирования. Мы знаем, как этого избежать. Наша команда реализовала более 20 проектов live streaming для iOS и Android, гарантируя стабильность даже при нестабильном соединении. Экономия ресурсов: аппаратное кодирование снижает энергопотребление на 90% по сравнению с программным. За каждым стримом стоит сложный конвейер: захват с камеры, аппаратное кодирование H.264/H.265, упаковка в контейнер, отправка на медиасервер и доставка до CDN. Каждый этап имеет своё API и свои подводные камни. Разберём их детально.
Захват видео и аудио
AVCaptureSession — точка входа на iOS. Настраиваем пресет качества (sessionPreset = .hd1280x720), добавляем AVCaptureDeviceInput для камеры и микрофона, добавляем AVCaptureVideoDataOutput и AVCaptureAudioDataOutput с делегатами. captureOutput(_:didOutput:from:) отдаёт CMSampleBuffer — сырые кадры с камеры в реальном времени.
Ориентация: AVCaptureConnection.videoOrientation нужно обновлять при повороте устройства. Если этого не делать, зрители видят видео боком при начале трансляции в портрете.
На Android используем Camera2 API или CameraX (рекомендуется). CameraX.bindToLifecycle() с Preview + VideoCapture use case. VideoCapture.output.prepareRecording() — нативная запись. Для стриминга нужен сырой поток: ImageAnalysis use case с setOutputImageFormat(OUTPUT_IMAGE_FORMAT_YUV_420_888), кадры обрабатываем вручную через MediaCodec.
| Платформа |
API захвата |
Поток кадров |
| iOS |
AVCaptureSession |
CMSampleBuffer |
| Android |
CameraX/Camera2 |
YUV_420_888 (Image) |
Почему аппаратное кодирование?
Программный FFmpeg на телефоне — это перегрев и разряженная батарея за 20 минут. Мы используем только аппаратные кодировщики: VideoToolbox на iOS и MediaCodec на Android. Это в 10 раз энергоэффективнее и даёт стабильные 30 fps при 720p.
На iOS: VideoToolbox — VTCompressionSession. Создаём сессию с kVTVideoEncoderSpecification_RequireHardwareAcceleratedVideoEncoder: kCFBooleanTrue. Callback outputCallback получает CMSampleBuffer с закодированным H.264/H.265.
Важные параметры:
-
kVTCompressionPropertyKey_RealTime: kCFBooleanTrue — режим реального времени
-
kVTCompressionPropertyKey_ProfileLevel: kVTProfileLevel_H264_High_AutoLevel
-
kVTCompressionPropertyKey_AverageBitRate: 2_000_000 (2 Mbps для 720p)
-
kVTCompressionPropertyKey_MaxKeyFrameInterval: 60 (keyframe каждые 2 сек при 30 fps)
На Android: MediaCodec. MediaFormat.createVideoFormat("video/avc", width, height). configure(format, null, null, MediaCodec.CONFIGURE_FLAG_ENCODE). В dequeueOutputBuffer получаем закодированные NAL units.
Для аудио: AudioRecord → MediaCodec с audio/mp4a-latm (AAC-LC). Sample rate 44100 Гц, битрейт 128 kbps.
Как обеспечить стабильность трансляции?
Адаптивный битрейт — ключевой механизм. Мониторим скорость отправки: RTMPStream.info.byteCount в HaishinKit, NetworkInfo callback в rtmp-rtsp-stream-client-java. Если пропускная способность падает, последовательно снижаем битрейт, framerate и разрешение. Оптимальный интервал проверки — 5-10 секунд, чтобы избежать резких скачков качества. Такой подход снижает количество разрывов на 70%.
HaishinKit — популярная библиотека для iOS, обеспечивающая RTMP и SRT трансляции. Для Android аналогично применяется rtmp-rtsp-stream-client-java.
Упаковка в RTMP или SRT
Из CMSampleBuffer/MediaCodec output получаем NAL units H.264 и AAC frames. Их нужно упаковать в транспортный протокол. Мы используем SRT из-за его устойчивости к сетевым проблемам, либо RTMP для широкой совместимости с CDN.
Готовые библиотеки:
- iOS: HaishinKit (Swift) — RTMP, SRT, HLS. Нативный Swift без FFmpeg зависимости.
RTMPStream, SRTStream.
- Android:
rtmp-rtsp-stream-client-java (Pedro Vicente) — RTMP и RTSP push. RtmpCamera2 с CameraX. SRTStream для SRT.
- Flutter:
rtmp_streaming (обёртка над нативными библиотеками) или нативный platform channel.
- Кроссплатформа с FFmpeg:
ffmpeg-kit-ios / ffmpeg-kit-android — FFmpegKit.executeAsync("-f avfoundation -i 0:0 -c:v libx264 -preset ultrafast -f flv rtmp://..."). Работает, но нагружает CPU больше аппаратного кодировщика.
Сравнение RTMP и SRT
SRT лучше RTMP в 2-3 раза по задержке и устойчивости к потерям.
| Характеристика |
RTMP |
SRT |
| Задержка |
2-5 сек |
0.5-2 сек |
| Устойчивость к потерям |
Низкая |
Высокая (FEC/ARQ) |
| Поддержка CDN |
Широкая |
Растёт |
| Применение |
Традиционные стримы |
Слабые сети, вебинары |
Для мобильного стриминга рекомендуем SRT из-за его устойчивости к сетевым проблемам.
Предпросмотр и UI
Превью с камеры — AVCaptureVideoPreviewLayer (iOS) / PreviewView CameraX (Android). Поверх накладываем оверлей: индикатор «В эфире», счётчик зрителей, битрейт и уровень сигнала.
Переключение фронтальная/тыловая камера без прерывания стрима: iOS — AVCaptureSession.beginConfiguration() → удаляем старый input → добавляем новый → commitConfiguration(). HaishinKit поддерживает это в одну строку: stream.captureSettings.isVideoMirrored.
Что входит в работу над live streaming
- Разработка захвата видео/аудио с камеры
- Аппаратное кодирование с настройкой параметров
- Интеграция выбранного протокола (RTMP/SRT/HLS)
- Адаптивный битрейт и мониторинг сети
- UI превью и оверлей с индикаторами
- Тестирование на реальных устройствах в разных сетях
- Документация по интеграции и поддержка после запуска
Свяжитесь с нами для обсуждения вашего проекта. Закажите разработку live streaming — получите консультацию инженера с опытом. Также вы можете запросить примеры наших проектов.
Сроки
Реализация стриминга с камеры (RTMP или SRT) на одну платформу с превью и базовым UI — 3-5 дней. Кросс-платформа с адаптивным битрейтом, переключением камер и интеграцией конкретного медиасервера — 1-2 недели. Стоимость рассчитывается индивидуально в зависимости от сложности, а такой подход окупается за счёт стабильности и энергоэффективности.
Как выбрать подход к камере на мобильных платформах
Приложения, где пользователи снимают, слушают или смотрят, технически одни из самых требовательных. Мы сталкиваемся с этим каждый день. Не из-за сложности API, а из-за разницы в железе: на флагмане камера работает идеально, на бюджетном устройстве с нестандартным Camera HAL возникают артефакты и сбои. На iOS стабилизация одного поколения отличается от другого. Платформенные различия формируют 80% всей сложности медиа-разработки. Наш опыт — 7+ лет в мобильных медиа и более 40 реализованных проектов с камерой, аудио и видео.
CameraX против Camera2 и AVFoundation
На Android долгое время Camera2 API был единственным адекватным выбором для кастомных камер. Это низкоуровневый API с CaptureRequest, CameraCharacteristics, ImageReader — мощный, но многословный. Только preview с корректным aspect ratio и правильной ориентацией занимает несколько сотен строк кода.
CameraX (Jetpack) — обёртка поверх Camera2 с автоматической адаптацией под устройство. Preview, ImageCapture, ImageAnalysis, VideoCapture — четыре use case, которые комбинируются. Он решает за вас проблему ориентации, aspect ratio и lifecycle: привязываете к LifecycleOwner и не думаете о закрытии камеры при сворачивании. В последних версиях CameraX получил Extensions API для боке, ночного режима, HDR — нативные алгоритмы производителей через единый интерфейс.
Когда нужен Camera2 напрямую: RAW-съёмка через ImageFormat.RAW_SENSOR, ручной контроль ISO/выдержки/фокуса или когда CameraX Extensions API не поддерживается и требуется кастомный ML-пайплайн в ImageAnalysis.
На iOS AVFoundation — единственный путь для кастомной камеры. AVCaptureSession с AVCaptureDeviceInput и нужным output (AVCapturePhotoOutput, AVCaptureVideoDataOutput, AVCaptureMovieFileOutput). Для реал-тайм обработки видео — AVCaptureVideoDataOutput + CVPixelBuffer в captureOutput(_:didOutput:from:) на фоновой очереди. Именно тут CoreML-модели получают кадры для инференса.
Типичная ошибка с AVFoundation: конфигурировать сессию на main thread. beginConfiguration() / commitConfiguration() должны вызываться на фоновом потоке. Иначе preview фризит, пользователь видит заморозку интерфейса. Эта ошибка встречается в 70% проектов, которые мы аудировали.
Почему AudioFocus критичен для Android приложений
Аудио на мобильных платформах требует корректного управления жизненным циклом звука. AudioFocus — механизм координации между приложениями. AudioManager.requestAudioFocus() с OnAudioFocusChangeListener. Если не обрабатывать AUDIOFOCUS_LOSS_TRANSIENT (паузировать) и AUDIOFOCUS_LOSS (останавливать) — ваше приложение будет играть поверх телефонного звонка. Это гарантированный плохой отзыв в Google Play. Android Developer Guide: AudioFocus
На iOS AudioSession категории определяют поведение: playback — для плееров (продолжает играть при заблокированном экране), record — для записи с отключением других источников, playAndRecord — для голосовых сообщений. Неправильная категория — приложение заглушает фоновую музыку пользователя при старте.
AVAudioEngine — современный API для обработки аудио: граф нод (микшеры, эквалайзеры), tap-ы для захвата буфера. Для речи в реальном времени — SFSpeechRecognizer + inputNode.installTap.
На Android для записи с шумоподавлением — NoiseSuppressor.isAvailable() + create(audioRecord.audioSessionId). Работает не на всех устройствах, нужен fallback.
Видео: воспроизведение и стриминг
ExoPlayer (Media3) — стандарт для Android. Поддерживает HLS, DASH, SmoothStreaming, прогрессивное воспроизведение. DefaultTrackSelector с Parameters позволяет выбирать качество вручную или адаптивно. DRM через DefaultDrmSessionManager с Widevine L1/L3.
Проблема, с которой сталкиваются почти все: ExoPlayer в RecyclerView при быстром скролле. Нужен PlayerPool — пул переиспользуемых плееров. Без пула каждый новый экземпляр создаёт MediaCodec инстанс, что дорого и приводит к MediaCodec$CodecException: Error -19 на некоторых Android 10 устройствах при >3 одновременных инстансах.
AVPlayer / AVPlayerViewController на iOS — для воспроизведения. Для кастомного UI — AVPlayerLayer + собственные контролы. HLS работает нативно через AVPlayer(url:) с m3u8. FairPlay DRM требует серверной части: AVContentKeySession, CKC-ответ от KSM-сервера, делегат ресурсов.
Для Flutter — video_player как базовый слой, chewie для UI. Для серьёзных задач — platform channel к нативному ExoPlayer/AVPlayer (из-за DRM и субтитров).
| Протокол |
Задержка |
Применение |
| RTMP |
2–5 сек |
Стриминг на YouTube/Twitch |
| HLS |
6–30 сек |
VOD, широковещательный |
| DASH |
6–30 сек |
VOD с адаптивным битрейтом |
| WebRTC |
< 500 мс |
Видеозвонки, P2P |
| SRT |
1–4 сек |
Профессиональный стриминг |
WebRTC на мобильных — через нативные фреймворки или flutter_webrtc. Реальная сложность — не в самом протоколе, а в сигналинге и TURN-серверах. Без TURN клиенты за симметричными NAT не установят соединение — это примерно 15–20% трафика. Coturn — стандартный open-source сервер.
RTMP публикация на мобильных: LFLiveKit для iOS, HaishinKit как более современная альтернатива. На Android — rtmp-rtsp-stream-client-java или через FFmpeg с JNI. Последнее даёт максимальную гибкость, но бинарник растёт на 10–15 МБ.
Обработка медиа: компрессия и транскодирование
Видео в ProRes может занимать 6 ГБ/минуту. Перед загрузкой нужна компрессия. На iOS — AVAssetExportSession с пресетом 1920×1080 или кастомный AVVideoComposition. VideoToolbox для аппаратного кодирования H264/HEVC — быстрее и экономнее по батарее.
На Android — MediaCodec напрямую или Transformer (Media3) — высокоуровневый API для трансформаций (обрезка, ресайз, эффекты через GlEffectsFrameProcessor). Для изображений — BitmapFactory.Options.inSampleSize для даунсемплинга, Glide / Coil для кеширования. Coil на Coroutines хорошо вписывается в Compose. Загружать оригинал 12 МП в ImageView 200×200dp — классический OutOfMemoryError на устройствах с 2 ГБ RAM.
Как реализовать стриминг на мобильных устройствах: пошаговый план
- Определить требования: целевая задержка, количество одновременных пользователей, необходимость P2P.
- Выбрать протокол и стек: WebRTC для видеозвонков, RTMP/HLSLive для вещания.
- Настроить сигналинг (SIP, WebSocket, MQTT) и TURN-сервер.
- Реализовать публикацию/просмотр через нативный API или кроссплатформенный плагин.
- Провести тестирование на реальных устройствах с разными камерами и сетевыми условиями.
- Оптимизировать битрейт и разрешение в зависимости от пропускной способности.
Типичные ошибки при разработке медиа-функциональности
- Конфигурация AVFoundation сессии на главном потоке.
- Отсутствие обработки AudioFocus Loss на Android.
- Игнорирование
MediaCodec ограничений на дешёвых устройствах.
- Использование эмулятора для тестов камеры — эмулятор не воспроизводит проблемы HAL.
- Утечка памяти при пересоздании медиаплееров без пула.
Что входит в работу
| Deliverable |
Описание |
| Анализ требований |
Выбор стека, приоритетов, тестовых устройств |
| Проектирование |
Архитектура, диаграммы потоков данных, выбор API |
| Реализация |
Код с использованием выбранных инструментов |
| Интеграция с бэкендом |
GraphQL/REST, DRM, WebRTC сигналинг |
| Тестирование |
На реальных устройствах (не менее 5 моделей) |
| Документация |
API-документация, инструкция по сборке |
| Поддержка после релиза |
1 месяц инцидентной поддержки, обучение команды |
Процесс разработки медиафункциональности
Сложность нелинейна: базовое воспроизведение видео — 1–2 дня, кастомная камера с обработкой кадров и стримингом — 3–5 недель. Начинаем с прояснения требований: DRM, форматы, минимальная OS, поддержка фоновых режимов. Тестирование на железе обязательно — эмулятор не воспроизводит проблемы с Camera HAL, аппаратным кодеком и AudioFocus. Минимальный набор: последний iPhone, iPhone SE, флагман Samsung, бюджетный Android, Android Go (если целевая аудитория — развивающиеся рынки).
Сроки ориентировочно: от 5 рабочих дней (базовое воспроизведение) до 8 недель (комплексная камера со стримингом и DRM). Стоимость рассчитывается индивидуально после анализа ваших требований — свяжитесь с нами для консультации.
Фраза услуги: «Работа с медиа в мобильных приложениях» — это наш профиль. Каждый проект начинается с аудита текущей реализации, выявления узких мест и предложения оптимального стека.
Коммерческие сигналы: закажите аудит вашей медиа-функциональности, получите консультацию инженера без обязательств.
