Реализация прямой трансляции (Live Streaming) с камеры мобильного устройства
Нажал кнопку — зрители видят тебя живьём через 2-3 секунды. За этими секундами: захват с камеры, аппаратное кодирование H.264/H.265, сборка в контейнер, отправка на медиасервер и доставка до CDN. Каждый этап имеет своё API и свои способы сломаться.
Захват видео и аудио
iOS. AVCaptureSession — точка входа. Настраиваем пресет качества (sessionPreset = .hd1280x720), добавляем AVCaptureDeviceInput для камеры и микрофона, добавляем AVCaptureVideoDataOutput и AVCaptureAudioDataOutput с делегатами. captureOutput(_:didOutput:from:) отдаёт CMSampleBuffer — сырые кадры с камеры в реальном времени.
Ориентация: AVCaptureConnection.videoOrientation нужно обновлять при повороте устройства. Если этого не делать, зрители видят видео боком при начале трансляции в портрете.
Android. Camera2 API или CameraX (рекомендуется). CameraX.bindToLifecycle() с Preview + VideoCapture use case. VideoCapture.output.prepareRecording() — нативная запись. Для стриминга нужен сырой поток: ImageAnalysis use case с setOutputImageFormat(OUTPUT_IMAGE_FORMAT_YUV_420_888), кадры обрабатываем вручную через MediaCodec.
Аппаратное кодирование
Программный FFmpeg на телефоне — это перегрев и разряженная батарея за 20 минут. Используем аппаратный кодировщик.
iOS: VideoToolbox — VTCompressionSession. Создаём сессию с kVTVideoEncoderSpecification_RequireHardwareAcceleratedVideoEncoder: kCFBooleanTrue. Callback outputCallback получает CMSampleBuffer с закодированным H.264/H.265.
Важные параметры:
-
kVTCompressionPropertyKey_RealTime: kCFBooleanTrue— режим реального времени -
kVTCompressionPropertyKey_ProfileLevel: kVTProfileLevel_H264_High_AutoLevel -
kVTCompressionPropertyKey_AverageBitRate: 2_000_000(2 Mbps для 720p) -
kVTCompressionPropertyKey_MaxKeyFrameInterval: 60(keyframe каждые 2 сек при 30 fps)
Android: MediaCodec. MediaFormat.createVideoFormat("video/avc", width, height). configure(format, null, null, MediaCodec.CONFIGURE_FLAG_ENCODE). В dequeueOutputBuffer получаем закодированные NAL units.
Для аудио: AudioRecord → MediaCodec с audio/mp4a-latm (AAC-LC). Sample rate 44100 Гц, битрейт 128 kbps.
Упаковка в RTMP или SRT
Из CMSampleBuffer/MediaCodec output получаем NAL units H.264 и AAC frames. Их нужно упаковать в транспортный протокол.
Готовые библиотеки избавляют от ручной реализации:
-
iOS:
HaishinKit(Swift) — RTMP, SRT, HLS. Нативный Swift без FFmpeg зависимости.RTMPStream,SRTStream. -
Android:
rtmp-rtsp-stream-client-java(Pedro Vicente) — RTMP и RTSP push.RtmpCamera2с CameraX.SRTStreamдля SRT. -
Flutter:
rtmp_streaming(обёртка над нативными библиотеками) или нативный platform channel. -
Кроссплатформа с FFmpeg:
ffmpeg-kit-ios/ffmpeg-kit-android—FFmpegKit.executeAsync("-f avfoundation -i 0:0 -c:v libx264 -preset ultrafast -f flv rtmp://..."). Работает, но нагружает CPU больше аппаратного кодировщика.
Адаптивный битрейт при ухудшении связи
Пользователь едет в метро — соединение прерывается. Без адаптации: буфер переполняется, стрим падает.
Мониторинг: RTMPStream.info.byteCount в HaishinKit, NetworkInfo callback в rtmp-rtsp-stream-client-java — следим за скоростью отправки. Если реальная пропускная способность падает ниже текущего битрейта:
- Снижаем
videoBitrate(HaishinKit:stream.videoSettings.bitRate) - Снижаем framerate с 30 до 15 fps
- Снижаем разрешение с 720p до 480p
Не делаем это слишком часто — каждые 5-10 секунд максимум, иначе качество постоянно скачет.
Предпросмотр и UI
Превью с камеры — AVCaptureVideoPreviewLayer (iOS) / PreviewView CameraX (Android). Поверх накладываем оверлей: индикатор «В эфире», счётчик зрителей, битрейт и уровень сигнала.
Переключение фронтальная/тыловая камера без прерывания стрима: iOS — AVCaptureSession.beginConfiguration() → удаляем старый input → добавляем новый → commitConfiguration(). HaishinKit поддерживает это в одну строку: stream.captureSettings.isVideoMirrored.
Сроки
Реализация стриминга с камеры (RTMP или SRT) на одну платформу с превью и базовым UI — 3-5 дней. Кросс-платформа с адаптивным битрейтом, переключением камер и интеграцией конкретного медиасервера — 1-2 недели.







