Интеграция FFmpeg для обработки мультимедиа в мобильном приложении

Почему FFmpeg на мобильном устройстве?

Вы разрабатываете приложение для редактирования видео, и встроенных фреймворков (AVFoundation, MediaCodec) не хватает. Нужна обрезка с покадровой точностью, конкатенация нескольких роликов, аппаратное ускорение и гибкие настройки кодирования. Отправлять видео на сервер — долго и дорого, а пользователи требуют приватности. FFmpeg решает эти задачи прямо на устройстве. Мы интегрируем его в iOS, Android и Flutter, настраиваем оптимальную сборку ffmpeg-kit и подключаем аппаратные кодировщики VideoToolbox или MediaCodec. Это снижает нагрузку на CPU и ускоряет обработку в 5–10 раз. За годы работы мы провели более 50 успешных интеграций медиапроцессинга, гарантируем совместимость с требованиями App Store и Google Play — включая оптимизацию размера приложения и соблюдение лицензий.

Какие задачи решает FFmpeg на мобильном?

FFmpeg позволяет выполнять любые операции с медиафайлами: транскодирование, обрезку, конкатенацию, наложение водяных знаков, изменение громкости и многое другое. Вот типовые команды:

Для быстрой обрезки используйте -c copy — без перекодирования, точность до ключевого кадра. Для покадровой точности — без -c copy, но это дольше. В UI стоит дать выбор: «Быстрая обрезка» и «Точная обрезка».

Как выбрать оптимальную сборку ffmpeg-kit?

Выбор сборки ffmpeg-kit напрямую влияет на размер приложения и доступный функционал. Минимальная сборка (min) весит 8–12 МБ и включает базовые кодеки (H.264, AAC) — хватит для обрезки и конвертации. Если нужна поддержка HTTPS (например, загрузка файлов по сети) — выбирайте сборку https. Для работы с H.265, VP9 или аудиокодеками FLAC/opus потребуется full (~50 МБ). Для проектов под GPL-совместимой лицензией используйте full-gpl. Мы рекомендуем сборку https как оптимальный баланс функционала и размера. Подробнее о вариантах можно узнать в документации ffmpeg-kit.

Как подключить FFmpeg к проекту?

iOS. ffmpeg-kit с CocoaPods — минимальная настройка за 15 минут:

// Podfile
pod 'ffmpeg-kit-ios-https', '~> 6.0'

// Использование
FFmpegKit.executeAsync("-i input.mp4 -vn -acodec copy output.aac") { session in
    guard let returnCode = session?.getReturnCode() else { return }
    if ReturnCode.isSuccess(returnCode) {
        print("Готово: \(session?.getOutput() ?? "")")
    } else {
        print("Ошибка: \(session?.getLogsAsString() ?? "")")
    }
}

Android. Через Maven:

implementation("com.arthenica:ffmpeg-kit-android-https:6.0.LTS")

FFmpegKit.executeAsync(
    "-i input.mp4 -vf scale=1280:720 -c:v libx264 -preset ultrafast -crf 23 output.mp4"
) { session ->
    if (ReturnCode.isSuccess(session.returnCode)) {
        // обрабатываем результат на main thread
    }
}

Flutter. Установка пакета ffmpeg_kit_flutter из pub.dev — Dart-обёртка, идентичная нативному API.

Мониторинг прогресса обработки

FFmpeg пишет прогресс в stderr. ffmpeg-kit предоставляет StatisticsCallback, где getTime() возвращает текущую позицию в миллисекундах. Общую длительность получаем через FFprobeKit.getMediaInformationAsync.

FFmpegKit.executeAsync(command,
    withCompleteCallback: { session in /* завершено */ },
    withLogCallback: nil,
    withStatisticsCallback: { stats in
        guard let duration = totalDurationMs else { return }
        let progress = Double(stats?.getTime() ?? 0) / duration
        DispatchQueue.main.async { self.progressBar.progress = Float(progress) }
    }
)

Как интегрировать FFmpeg: пошаговое руководство

1. Выбор сборки. Определите необходимые кодеки и протоколы. Для типового приложения — https.
2. Подключение. Добавьте зависимость в проект (CocoaPods, Maven или pub.dev). Протестируйте базовую команду, например, получение информации о файле.
3. Настройка производительности. Включите аппаратное ускорение через h264_videotoolbox (iOS) или h264_mediacodec (Android) с fallback на программный кодек.

На iPhone 14 Pro транскодирование 1-минутного 1080p видео через libx264 ultrafast занимает 45–60 секунд. Для UX это много. Используем аппаратные кодировщики: iOS — h264_videotoolbox (через VideoToolbox) — в 5–10 раз быстрее, но меньше контроля над битрейтом. Android — h264_mediacodec (через MediaCodec) — аналогично. Добавляем fallback на программный кодек:

val command = if (isHardwareEncoderAvailable()) {
    "-i input.mp4 -c:v h264_mediacodec output.mp4"
} else {
    "-i input.mp4 -c:v libx264 -preset ultrafast output.mp4"
}

Размер бинарника: сборка full добавляет 30–50 МБ к приложению, min — 8–12 МБ. Выбираем минимальную под конкретные задачи.

Что входит в интеграцию?

• Подбор и настройка оптимальной сборки ffmpeg-kit (с учётом лицензий и размера).
• Разработка API для команд (транскодирование, обрезка, конкатенация и т.д.).
• Интеграция мониторинга прогресса и отображения в UI.
• Поддержка аппаратного ускорения с fallback.
• Конфигурация ProGuard/R8 (Android) для минификации.
• Документация по использованию.
• Тестирование на 5+ реальных устройствах.
• Поддержка после деплоя в течение 30 дней.

Интеграция FFmpeg снижает затраты на серверную обработку до 40%, экономя бюджет на инфраструктуре. Окупается в течение 2–3 месяцев. Свяжитесь с нами для оценки вашего проекта — мы подготовим предложение за 1 день. Закажите консультацию, чтобы обсудить детали и получить индивидуальный план работ.

Как выбрать подход к камере на мобильных платформах

Приложения, где пользователи снимают, слушают или смотрят, технически одни из самых требовательных. Мы сталкиваемся с этим каждый день. Не из-за сложности API, а из-за разницы в железе: на флагмане камера работает идеально, на бюджетном устройстве с нестандартным Camera HAL возникают артефакты и сбои. На iOS стабилизация одного поколения отличается от другого. Платформенные различия формируют 80% всей сложности медиа-разработки. Наш опыт — 7+ лет в мобильных медиа и более 40 реализованных проектов с камерой, аудио и видео.

CameraX против Camera2 и AVFoundation

На Android долгое время Camera2 API был единственным адекватным выбором для кастомных камер. Это низкоуровневый API с CaptureRequest, CameraCharacteristics, ImageReader — мощный, но многословный. Только preview с корректным aspect ratio и правильной ориентацией занимает несколько сотен строк кода.

CameraX (Jetpack) — обёртка поверх Camera2 с автоматической адаптацией под устройство. Preview, ImageCapture, ImageAnalysis, VideoCapture — четыре use case, которые комбинируются. Он решает за вас проблему ориентации, aspect ratio и lifecycle: привязываете к LifecycleOwner и не думаете о закрытии камеры при сворачивании. В последних версиях CameraX получил Extensions API для боке, ночного режима, HDR — нативные алгоритмы производителей через единый интерфейс.

Когда нужен Camera2 напрямую: RAW-съёмка через ImageFormat.RAW_SENSOR, ручной контроль ISO/выдержки/фокуса или когда CameraX Extensions API не поддерживается и требуется кастомный ML-пайплайн в ImageAnalysis.

На iOS AVFoundation — единственный путь для кастомной камеры. AVCaptureSession с AVCaptureDeviceInput и нужным output (AVCapturePhotoOutput, AVCaptureVideoDataOutput, AVCaptureMovieFileOutput). Для реал-тайм обработки видео — AVCaptureVideoDataOutput + CVPixelBuffer в captureOutput(_:didOutput:from:) на фоновой очереди. Именно тут CoreML-модели получают кадры для инференса.

Типичная ошибка с AVFoundation: конфигурировать сессию на main thread. beginConfiguration() / commitConfiguration() должны вызываться на фоновом потоке. Иначе preview фризит, пользователь видит заморозку интерфейса. Эта ошибка встречается в 70% проектов, которые мы аудировали.

Почему AudioFocus критичен для Android приложений

Аудио на мобильных платформах требует корректного управления жизненным циклом звука. AudioFocus — механизм координации между приложениями. AudioManager.requestAudioFocus() с OnAudioFocusChangeListener. Если не обрабатывать AUDIOFOCUS_LOSS_TRANSIENT (паузировать) и AUDIOFOCUS_LOSS (останавливать) — ваше приложение будет играть поверх телефонного звонка. Это гарантированный плохой отзыв в Google Play. Android Developer Guide: AudioFocus

На iOS AudioSession категории определяют поведение: playback — для плееров (продолжает играть при заблокированном экране), record — для записи с отключением других источников, playAndRecord — для голосовых сообщений. Неправильная категория — приложение заглушает фоновую музыку пользователя при старте.

AVAudioEngine — современный API для обработки аудио: граф нод (микшеры, эквалайзеры), tap-ы для захвата буфера. Для речи в реальном времени — SFSpeechRecognizer + inputNode.installTap.

На Android для записи с шумоподавлением — NoiseSuppressor.isAvailable() + create(audioRecord.audioSessionId). Работает не на всех устройствах, нужен fallback.

Видео: воспроизведение и стриминг

ExoPlayer (Media3) — стандарт для Android. Поддерживает HLS, DASH, SmoothStreaming, прогрессивное воспроизведение. DefaultTrackSelector с Parameters позволяет выбирать качество вручную или адаптивно. DRM через DefaultDrmSessionManager с Widevine L1/L3.

Проблема, с которой сталкиваются почти все: ExoPlayer в RecyclerView при быстром скролле. Нужен PlayerPool — пул переиспользуемых плееров. Без пула каждый новый экземпляр создаёт MediaCodec инстанс, что дорого и приводит к MediaCodec$CodecException: Error -19 на некоторых Android 10 устройствах при >3 одновременных инстансах.

AVPlayer / AVPlayerViewController на iOS — для воспроизведения. Для кастомного UI — AVPlayerLayer + собственные контролы. HLS работает нативно через AVPlayer(url:) с m3u8. FairPlay DRM требует серверной части: AVContentKeySession, CKC-ответ от KSM-сервера, делегат ресурсов.

Для Flutter — video_player как базовый слой, chewie для UI. Для серьёзных задач — platform channel к нативному ExoPlayer/AVPlayer (из-за DRM и субтитров).

WebRTC на мобильных — через нативные фреймворки или flutter_webrtc. Реальная сложность — не в самом протоколе, а в сигналинге и TURN-серверах. Без TURN клиенты за симметричными NAT не установят соединение — это примерно 15–20% трафика. Coturn — стандартный open-source сервер.

RTMP публикация на мобильных: LFLiveKit для iOS, HaishinKit как более современная альтернатива. На Android — rtmp-rtsp-stream-client-java или через FFmpeg с JNI. Последнее даёт максимальную гибкость, но бинарник растёт на 10–15 МБ.

Обработка медиа: компрессия и транскодирование

Видео в ProRes может занимать 6 ГБ/минуту. Перед загрузкой нужна компрессия. На iOS — AVAssetExportSession с пресетом 1920×1080 или кастомный AVVideoComposition. VideoToolbox для аппаратного кодирования H264/HEVC — быстрее и экономнее по батарее.

На Android — MediaCodec напрямую или Transformer (Media3) — высокоуровневый API для трансформаций (обрезка, ресайз, эффекты через GlEffectsFrameProcessor). Для изображений — BitmapFactory.Options.inSampleSize для даунсемплинга, Glide / Coil для кеширования. Coil на Coroutines хорошо вписывается в Compose. Загружать оригинал 12 МП в ImageView 200×200dp — классический OutOfMemoryError на устройствах с 2 ГБ RAM.

Как реализовать стриминг на мобильных устройствах: пошаговый план

1. Определить требования: целевая задержка, количество одновременных пользователей, необходимость P2P.
2. Выбрать протокол и стек: WebRTC для видеозвонков, RTMP/HLSLive для вещания.
3. Настроить сигналинг (SIP, WebSocket, MQTT) и TURN-сервер.
4. Реализовать публикацию/просмотр через нативный API или кроссплатформенный плагин.
5. Провести тестирование на реальных устройствах с разными камерами и сетевыми условиями.
6. Оптимизировать битрейт и разрешение в зависимости от пропускной способности.

Что входит в работу

Процесс разработки медиафункциональности

Сложность нелинейна: базовое воспроизведение видео — 1–2 дня, кастомная камера с обработкой кадров и стримингом — 3–5 недель. Начинаем с прояснения требований: DRM, форматы, минимальная OS, поддержка фоновых режимов. Тестирование на железе обязательно — эмулятор не воспроизводит проблемы с Camera HAL, аппаратным кодеком и AudioFocus. Минимальный набор: последний iPhone, iPhone SE, флагман Samsung, бюджетный Android, Android Go (если целевая аудитория — развивающиеся рынки).

Сроки ориентировочно: от 5 рабочих дней (базовое воспроизведение) до 8 недель (комплексная камера со стримингом и DRM). Стоимость рассчитывается индивидуально после анализа ваших требований — свяжитесь с нами для консультации.

Фраза услуги: «Работа с медиа в мобильных приложениях» — это наш профиль. Каждый проект начинается с аудита текущей реализации, выявления узких мест и предложения оптимального стека.

Коммерческие сигналы: закажите аудит вашей медиа-функциональности, получите консультацию инженера без обязательств.