Разработка видеозвонков в мобильном приложении

Мы разрабатываем видеозвонки в мобильных приложениях. Это не просто WebRTC-соединение: управление камерой и микрофоном, lifecycle на уровне системы, обработка прерываний (входящий звонок, уведомление, блокировка экрана), корректная работа в фоне и на низком заряде батареи. Каждая из этих деталей — отдельная задача с нетривиальными решениями на iOS и Android. Наш опыт в этой области превышает 7 лет, мы реализовали более 30 проектов с видеозвонками для клиентов из разных индустрий.

Какой транспорт выбрать: WebRTC или готовый SDK?

Чистый WebRTC — это RTCPeerConnection, RTCSessionDescription, ICE/STUN/TURN серверы, getUserMedia, сигналинг через WebSocket. Полная реализация с нуля занимает 3–6 недель только на транспортный слой, без UI.

Большинство проектов выбирают SDK поверх WebRTC: Twilio Video, Daily.co, 100ms, Livekit или Agora. Они берут на себя ICE negotiation, codec negotiation (VP8/VP9/H.264/AV1), адаптивный битрейт, и дают готовые нативные обёртки для iOS и Android.

Если требования к кастомизации невысоки и важна скорость запуска — выбираем SDK. Если нужен полный контроль над кодеком, шифрованием или минимальным весом бинарника — чистый WebRTC через GoogleWebRTC (iOS) или org.webrtc (Android).

Как реализовать видеозвонок на iOS?

Видео с камеры захватывается через AVCaptureSession. Правильная инициализация:

let session = AVCaptureSession()
session.sessionPreset = .hd1280x720

let camera = AVCaptureDevice.default(.builtInWideAngleCamera, for: .video, position: .front)
let input = try AVCaptureDeviceInput(device: camera!)
let output = AVCaptureVideoDataOutput()
output.setSampleBufferDelegate(self, queue: DispatchQueue(label: "videoQueue"))

AVCaptureVideoDataOutput с делегатом даёт сырые CMSampleBuffer — их передаём в WebRTC через RTCVideoSource. Важно: AVCaptureSession.startRunning() вызывается строго в фоновом потоке, не на главном — иначе UI заморозится на 200–400 мс.

Переключение фронтальной/основной камеры — AVCaptureSession.beginConfiguration() + удаление старого input + добавление нового + commitConfiguration(). Без begin/commit вокруг этих операций — фликер на видео во время переключения.

CallKit — обязательный компонент для iOS-приложений с видеозвонками. Без него входящий звонок отображается как push-уведомление, которое может быть пропущено. С CallKit — полноэкранный системный экран звонка, интеграция с Bluetooth/AirPods, правильная обработка прерывания аудио. Реализуем через CXProvider и CXCallController. VoIP push через PKPushRegistry — единственный способ разбудить приложение для входящего звонка.

Как реализовать видеозвонок на Android?

На Android Camera2 API (CameraManager.openCamera()) даёт доступ к ImageReader с форматом YUV_420_888 — стандартный формат для WebRTC на Android. Для большинства задач хватает уровня CameraDevice.StateCallback + CaptureRequest.Builder.

ConnectionService — Android-аналог CallKit. Регистрируем PhoneAccount, через TelecomManager управляем состоянием звонка. Без этого на Android 10+ приложение не может работать в foreground во время звонка без постоянного уведомления.

Для сохранения соединения при сворачивании — ForegroundService с типом mediaProjection или phoneCall. На Android 14 это требует явного указания в манифесте: android:foregroundServiceType="camera|microphone".

Управление камерой и микрофоном

Mute микрофона — не отключение устройства, а замена аудио-трека на тишину. В WebRTC: RTCAudioTrack.isEnabled = false. Полное отключение микрофона на уровне AVAudioSession — ломает эхоподавление.

Flip камеры во время звонка — через RTCCameraVideoCapturer.stopCapture() + смена устройства + startCapture(with:fps:). Без полной остановки — крэш на некоторых устройствах Huawei и Xiaomi из-за состояния гонки в Camera2.

Поворот экрана — RTCVideoTrack сам по себе не учитывает ориентацию. Нужно передавать RTCVideoRotation в RTCVideoFrame при захвате с камеры, иначе собеседник увидит повёрнутое на 90° видео на устройствах с portrait-lock.

Качество соединения и адаптация

Адаптивный битрейт — базовая функция WebRTC (GCC алгоритм). Но нужно явно задать диапазон: RTCRtpEncodingParameters с minBitrateBps: 100_000 и maxBitrateBps: 1_500_000. Без ограничения сверху на Wi-Fi WebRTC попытается использовать 4–8 Мбит/с — это некомфортно для других пользователей сети.

Индикатор качества соединения через RTCPeerConnection.getStats() — парсим RTCInboundRtpStreamStats для framesPerSecond и packetsLost. Потери > 5% — показываем предупреждение пользователю.

Что входит в работу

• Аудит требований и выбор оптимального транспорта (WebRTC или SDK)
• Разработка сигналинга (WebSocket или сторонний сервер)
• Интеграция камеры и микрофона с AVCaptureSession/Camera2
• Подключение CallKit/ConnectionService для системных звонков
• Разработка UI: превью локального видео, удалённое видео, кнопки управления
• Адаптивный битрейт и контроль качества соединения
• Тестирование на реальных устройствах (iOS/Android)
• Документация по интеграции и передача исходного кода
• Поддержка после релиза (2 недели)

Процесс

1. Аудит требований → 2. Выбор транспорта → 3. Реализация сигналинга → 4. Интеграция камеры/микрофона → 5. CallKit/ConnectionService → 6. UI и кнопки управления → 7. Тестирование на реальных устройствах → 8. Деплой в магазины.

Оценим ваш проект бесплатно. Напишите нам, и мы предложим оптимальное решение с учётом ваших сроков и бюджета. Базовый видеозвонок 1-на-1 через SDK (Twilio/Agora/100ms) с управлением камерой, mute и flip — 1–2 недели. Чистый WebRTC с сигналингом, CallKit, фоновый режим — 3–5 недель. Стоимость рассчитывается после анализа требований.

Как выбрать подход к камере на мобильных платформах

Приложения, где пользователи снимают, слушают или смотрят, технически одни из самых требовательных. Мы сталкиваемся с этим каждый день. Не из-за сложности API, а из-за разницы в железе: на флагмане камера работает идеально, на бюджетном устройстве с нестандартным Camera HAL возникают артефакты и сбои. На iOS стабилизация одного поколения отличается от другого. Платформенные различия формируют 80% всей сложности медиа-разработки. Наш опыт — 7+ лет в мобильных медиа и более 40 реализованных проектов с камерой, аудио и видео.

CameraX против Camera2 и AVFoundation

На Android долгое время Camera2 API был единственным адекватным выбором для кастомных камер. Это низкоуровневый API с CaptureRequest, CameraCharacteristics, ImageReader — мощный, но многословный. Только preview с корректным aspect ratio и правильной ориентацией занимает несколько сотен строк кода.

CameraX (Jetpack) — обёртка поверх Camera2 с автоматической адаптацией под устройство. Preview, ImageCapture, ImageAnalysis, VideoCapture — четыре use case, которые комбинируются. Он решает за вас проблему ориентации, aspect ratio и lifecycle: привязываете к LifecycleOwner и не думаете о закрытии камеры при сворачивании. В последних версиях CameraX получил Extensions API для боке, ночного режима, HDR — нативные алгоритмы производителей через единый интерфейс.

Когда нужен Camera2 напрямую: RAW-съёмка через ImageFormat.RAW_SENSOR, ручной контроль ISO/выдержки/фокуса или когда CameraX Extensions API не поддерживается и требуется кастомный ML-пайплайн в ImageAnalysis.

На iOS AVFoundation — единственный путь для кастомной камеры. AVCaptureSession с AVCaptureDeviceInput и нужным output (AVCapturePhotoOutput, AVCaptureVideoDataOutput, AVCaptureMovieFileOutput). Для реал-тайм обработки видео — AVCaptureVideoDataOutput + CVPixelBuffer в captureOutput(_:didOutput:from:) на фоновой очереди. Именно тут CoreML-модели получают кадры для инференса.

Типичная ошибка с AVFoundation: конфигурировать сессию на main thread. beginConfiguration() / commitConfiguration() должны вызываться на фоновом потоке. Иначе preview фризит, пользователь видит заморозку интерфейса. Эта ошибка встречается в 70% проектов, которые мы аудировали.

Почему AudioFocus критичен для Android приложений

Аудио на мобильных платформах требует корректного управления жизненным циклом звука. AudioFocus — механизм координации между приложениями. AudioManager.requestAudioFocus() с OnAudioFocusChangeListener. Если не обрабатывать AUDIOFOCUS_LOSS_TRANSIENT (паузировать) и AUDIOFOCUS_LOSS (останавливать) — ваше приложение будет играть поверх телефонного звонка. Это гарантированный плохой отзыв в Google Play. Android Developer Guide: AudioFocus

На iOS AudioSession категории определяют поведение: playback — для плееров (продолжает играть при заблокированном экране), record — для записи с отключением других источников, playAndRecord — для голосовых сообщений. Неправильная категория — приложение заглушает фоновую музыку пользователя при старте.

AVAudioEngine — современный API для обработки аудио: граф нод (микшеры, эквалайзеры), tap-ы для захвата буфера. Для речи в реальном времени — SFSpeechRecognizer + inputNode.installTap.

На Android для записи с шумоподавлением — NoiseSuppressor.isAvailable() + create(audioRecord.audioSessionId). Работает не на всех устройствах, нужен fallback.

Видео: воспроизведение и стриминг

ExoPlayer (Media3) — стандарт для Android. Поддерживает HLS, DASH, SmoothStreaming, прогрессивное воспроизведение. DefaultTrackSelector с Parameters позволяет выбирать качество вручную или адаптивно. DRM через DefaultDrmSessionManager с Widevine L1/L3.

Проблема, с которой сталкиваются почти все: ExoPlayer в RecyclerView при быстром скролле. Нужен PlayerPool — пул переиспользуемых плееров. Без пула каждый новый экземпляр создаёт MediaCodec инстанс, что дорого и приводит к MediaCodec$CodecException: Error -19 на некоторых Android 10 устройствах при >3 одновременных инстансах.

AVPlayer / AVPlayerViewController на iOS — для воспроизведения. Для кастомного UI — AVPlayerLayer + собственные контролы. HLS работает нативно через AVPlayer(url:) с m3u8. FairPlay DRM требует серверной части: AVContentKeySession, CKC-ответ от KSM-сервера, делегат ресурсов.

Для Flutter — video_player как базовый слой, chewie для UI. Для серьёзных задач — platform channel к нативному ExoPlayer/AVPlayer (из-за DRM и субтитров).

WebRTC на мобильных — через нативные фреймворки или flutter_webrtc. Реальная сложность — не в самом протоколе, а в сигналинге и TURN-серверах. Без TURN клиенты за симметричными NAT не установят соединение — это примерно 15–20% трафика. Coturn — стандартный open-source сервер.

RTMP публикация на мобильных: LFLiveKit для iOS, HaishinKit как более современная альтернатива. На Android — rtmp-rtsp-stream-client-java или через FFmpeg с JNI. Последнее даёт максимальную гибкость, но бинарник растёт на 10–15 МБ.

Обработка медиа: компрессия и транскодирование

Видео в ProRes может занимать 6 ГБ/минуту. Перед загрузкой нужна компрессия. На iOS — AVAssetExportSession с пресетом 1920×1080 или кастомный AVVideoComposition. VideoToolbox для аппаратного кодирования H264/HEVC — быстрее и экономнее по батарее.

На Android — MediaCodec напрямую или Transformer (Media3) — высокоуровневый API для трансформаций (обрезка, ресайз, эффекты через GlEffectsFrameProcessor). Для изображений — BitmapFactory.Options.inSampleSize для даунсемплинга, Glide / Coil для кеширования. Coil на Coroutines хорошо вписывается в Compose. Загружать оригинал 12 МП в ImageView 200×200dp — классический OutOfMemoryError на устройствах с 2 ГБ RAM.

Как реализовать стриминг на мобильных устройствах: пошаговый план

1. Определить требования: целевая задержка, количество одновременных пользователей, необходимость P2P.
2. Выбрать протокол и стек: WebRTC для видеозвонков, RTMP/HLSLive для вещания.
3. Настроить сигналинг (SIP, WebSocket, MQTT) и TURN-сервер.
4. Реализовать публикацию/просмотр через нативный API или кроссплатформенный плагин.
5. Провести тестирование на реальных устройствах с разными камерами и сетевыми условиями.
6. Оптимизировать битрейт и разрешение в зависимости от пропускной способности.

Что входит в работу

Процесс разработки медиафункциональности

Сложность нелинейна: базовое воспроизведение видео — 1–2 дня, кастомная камера с обработкой кадров и стримингом — 3–5 недель. Начинаем с прояснения требований: DRM, форматы, минимальная OS, поддержка фоновых режимов. Тестирование на железе обязательно — эмулятор не воспроизводит проблемы с Camera HAL, аппаратным кодеком и AudioFocus. Минимальный набор: последний iPhone, iPhone SE, флагман Samsung, бюджетный Android, Android Go (если целевая аудитория — развивающиеся рынки).

Сроки ориентировочно: от 5 рабочих дней (базовое воспроизведение) до 8 недель (комплексная камера со стримингом и DRM). Стоимость рассчитывается индивидуально после анализа ваших требований — свяжитесь с нами для консультации.

Фраза услуги: «Работа с медиа в мобильных приложениях» — это наш профиль. Каждый проект начинается с аудита текущей реализации, выявления узких мест и предложения оптимального стека.

Коммерческие сигналы: закажите аудит вашей медиа-функциональности, получите консультацию инженера без обязательств.