Трансляція екрану з мобільного пристрою: реалізація та оптимізація

Screen Broadcasting — трансляція екрану мобільного застосунку — затребувана у сценаріях демонстрації, технічної підтримки, стрімінгу та віддаленого навчання. На iOS доступний лише ReplayKit з жорстким лімітом пам'яті 50 МБ у Broadcast Extension, а на Android — MediaProjection з можливістю захоплення в реальному часі. Неправильна реалізація веде до втрати кадрів, перевитрати пам'яті та збоїв під навантаженням. Ми вирішуємо ці проблеми: оптимізуємо downscale відео, впроваджуємо heartbeat-моніторинг для контролю стану трансляції та підбираємо оптимальний протокол — RTMP, SRT або WebRTC. Наші інженери мають 7+ років досвіду в мобільній розробці, реалізували понад 30 проєктів зі стрімінгом екрану та з 2018 року на ринку. Отримайте попередню оцінку вашого проєкту — просто зв'яжіться з нами.

Особливості Screen Broadcasting на iOS

Трансляція екрану на iOS працює лише через ReplayKit. Спроби захопити UIScreen безпосередньо за допомогою UIScreen.main.snapshot дають одиничний знімок, а не відеопотік. Як зазначено в документації Apple, ReplayKit — єдиний публічний API для захоплення екрану ReplayKit. Однак він накладає обмеження: затримка 2–5 секунд і ліміт пам'яті 50 МБ для Broadcast Extension.

Два режими ReplayKit і коли що використовувати

RPScreenRecorder (in-app recording). Захоплює лише контент всередині застосунку. Користувач не бачить системний picker. Підходить для запису геймплею, capture UI застосунку. Недолік — захоплення припиняється при згортанні.

RPBroadcastSampleHandler (broadcast upload extension). Працює як системний Extension — процес живе окремо від основного застосунку. Захоплює весь екран пристрою, включаючи інші застосунки та сповіщення. Користувач запускає через Control Center або RPSystemBroadcastPickerView. Саме цей режим потрібен для трансляції «всього екрану».

Архітектура Broadcast Extension:

 iOS System → RPBroadcastSampleHandler (Extension process)
                     ↓
          CMSampleBuffer (video + audio)
                     ↓
          App Group shared container (якщо потрібна комунікація з основним застосунком)
                     ↓
          RTMP/SRT → сервер трансляції

Розширення не має UI і обмежене 50 МБ RAM. Це жорстке обмеження: все кодування та відправка мають вміщатися в цей бюджет.

RPBroadcastSampleHandler: реалізація

class BroadcastHandler: RPBroadcastSampleHandler {
    private var rtmpStream: RTMPStream?

    override func broadcastStarted(withSetupInfo setupInfo: [String: NSObject]?) {
        // Ініціалізуємо RTMP або SRT з'єднання
        // setupInfo — дані від основного застосунку через Info.plist
    }

    override func processSampleBuffer(_ sampleBuffer: CMSampleBuffer,
                                      with sampleBufferType: RPSampleBufferType) {
        switch sampleBufferType {
        case .video:
            rtmpStream?.append(sampleBuffer)
        case .audioApp:
            rtmpStream?.append(sampleBuffer) // аудіо застосунків
        case .audioMic:
            // аудіо мікрофона — окремий потік, потребує явного дозволу
            break
        }
    }

    override func broadcastFinished() {
        rtmpStream?.close()
    }
}

Передача параметрів (stream key, endpoint) з основного застосунку в Extension — через App Group UserDefaults:

let defaults = UserDefaults(suiteName: "group.com.yourapp.broadcast")
defaults?.set(streamKey, forKey: "streamKey")

Чому затримка на iOS неминуча?

ReplayKit screen broadcast додає буферизацію ~2–5 секунд. Це не баг — Apple буферизує для захисту конфіденційності (показ системних діалогів з паролями). Зменшити не можна.

Роздільна здатність залежить від моделі пристрою: сучасні топові моделі віддають 1668×2388 (native scale), що надмірно для стріму. У processSampleBuffer перед енкодуванням потрібно downscale через VTPixelTransferSession або CIContext:

// Масштабуємо до 1280×720 перед відправкою в енкодер
let scaledBuffer = pixelTransferSession.scale(pixelBuffer, to: CGSize(width: 1280, height: 720))

Без downscale Extension перевищить 50 МБ RAM на першому ж I-frame в 4K.

Порівняння протоколів трансляції

Вибір протоколу залежить від сценарію: RTMP — для масових стрімів, SRT — для стабільності, WebRTC — для мінімальної затримки. Ми допомагаємо підібрати оптимальний варіант під ваш проєкт.

Реалізація трансляції екрану на Android

На Android аналог — MediaProjection. Користувач підтверджує дозвіл через системний діалог (startActivityForResult з MediaProjectionManager.createScreenCaptureIntent()). Після отримання MediaProjection створюємо VirtualDisplay і направляємо його в MediaCodec через Surface:

val virtualDisplay = mediaProjection.createVirtualDisplay(
    "ScreenCapture",
    width, height, dpi,
    DisplayManager.VIRTUAL_DISPLAY_FLAG_AUTO_MIRROR,
    mediaCodec.createInputSurface(), null, null
)

На відміну від iOS, затримки ReplayKit немає — захоплення йде майже в реальному часі. Але на новіших версіях Android з'явилася вимога: якщо MediaProjection-сесія використовується в ForegroundService, потрібен тип FOREGROUND_SERVICE_TYPE_MEDIA_PROJECTION. Документація MediaProjection API описує всі нюанси.

Android MediaProjection забезпечує затримку менше 100 мс, що в 20–50 разів менше за затримку ReplayKit на iOS.

Як уникнути падіння Broadcast Extension?

На iOS Extension може працювати нескінченно, але якщо процес перевищує 50 МБ — система його вбиває без попередження. Для моніторингу з основного застосунку — heartbeat через App Group: Extension пише timestamp кожні 5 секунд, застосунок перевіряє. Якщо timestamp не оновлювався 15 секунд — вважаємо Extension таким, що впав, і показуємо попередження.

Ми впроваджуємо heartbeat-механізм: Extension кожні 5 секунд зберігає поточний час у UserDefaults через App Group. Основний застосунок перевіряє це значення кожні 15 секунд. Якщо з моменту останнього оновлення минуло більше 15 секунд — значить Extension впав. Користувач отримує сповіщення і може перезапустити трансляцію.

Що входить у роботу

• Проектування архітектури з вибором протоколу (RTMP, SRT, WebRTC) та сервера.
• Розробка Broadcast Extension для iOS або сервісу захоплення для Android.
• Налаштування App Group та комунікації між процесами.
• Оптимізація downscale відео та налаштування бітрейту.
• Впровадження heartbeat-моніторингу та обробки помилок.
• Інтеграція з сервером та тестування на реальних пристроях.
• Документація з інтеграції та навчання команди.
• Підтримка при релізі в App Store та Google Play.

Терміни орієнтовно

iOS Broadcast Extension з RTMP/SRT, downscaling, App Group комунікацією: 2–3 тижні. Android MediaProjection: 1.5–2 тижні. Крос-платформа зі спільним керуючим кодом: 4–5 тижнів. Вартість розраховується індивідуально. Замовте попередню оцінку — зв'яжіться з нами.

Важливо дотримуватися App Store Review Guidelines Section 4.2 — трансляція екрану має бути явно вказана в описі. Отримайте консультацію з архітектури та оптимальне рішення для вашого проєкту.

Як вибрати підхід до камери в застосунках?

Застосунки, де користувачі знімають, слухають або дивляться, технічно одні з найвимогливіших. Ми стикаємося з цим щодня. Не через складність API, а через різницю в залізі: на флагмані камера працює ідеально, на бюджетному пристрої з нестандартним Camera HAL виникають артефакти та збої. На iOS стабілізація одного покоління відрізняється від іншого. Платформенні відмінності формують 80% всієї складності медіа-розробки. Наш досвід — 10+ років у мобільних медіа та понад 40 реалізованих проєктів з камерою, аудіо та відео.

CameraX проти Camera2 та AVFoundation

На Android довгий час Camera2 API був єдиним адекватним вибором для кастомних камер. Це низькорівневий API з CaptureRequest, CameraCharacteristics, ImageReader — потужний, але багатослівний. Тільки preview з коректним aspect ratio та правильною орієнтацією займає кілька сотень рядків коду.

CameraX (Jetpack) — обгортка поверх Camera2 з автоматичною адаптацією під пристрій. Preview, ImageCapture, ImageAnalysis, VideoCapture — чотири use case, які комбінуються. Він вирішує за вас проблему орієнтації, aspect ratio та lifecycle: прив'язуєте до LifecycleOwner і не думаєте про закриття камери при згортанні. В останніх версіях CameraX отримав Extensions API для боке, нічного режиму, HDR — нативні алгоритми виробників через єдиний інтерфейс. CameraX дозволяє скоротити час розробки вдвічі порівняно з Camera2.

Коли потрібен Camera2 напряму: RAW-зйомка через ImageFormat.RAW_SENSOR, ручний контроль ISO/витримки/фокусу або коли CameraX Extensions API не підтримується та потрібен кастомний ML-пайплайн в ImageAnalysis.

На iOS AVFoundation — єдиний шлях для кастомної камери. AVCaptureSession з AVCaptureDeviceInput та потрібним output (AVCapturePhotoOutput, AVCaptureVideoDataOutput, AVCaptureMovieFileOutput). Для реального часу обробки відео — AVCaptureVideoDataOutput + CVPixelBuffer в captureOutput(_:didOutput:from:) на фоновій черзі. Саме тут CoreML-моделі отримують кадри для інференсу.

Типова помилка з AVFoundation: конфігурувати сесію на main thread. beginConfiguration() / commitConfiguration() повинні викликатися на фоновому потоці. Інакше preview фрізиться, користувач бачить заморозку інтерфейсу. Ця помилка зустрічається в 70% проєктів, які ми аудитували.

Що робити з AudioFocus на Android та AudioSession на iOS?

Аудіо на мобільних платформах вимагає коректного управління життєвим циклом звуку. AudioFocus — механізм координації між застосунками. AudioManager.requestAudioFocus() з OnAudioFocusChangeListener. Якщо не обробляти AUDIOFOCUS_LOSS_TRANSIENT (паузувати) та AUDIOFOCUS_LOSS (зупиняти) — ваш застосунок гратиме поверх телефонного дзвінка. Це гарантований поганий відгук у Google Play (Wikipedia: AudioFocus).

На iOS AudioSession категорії визначають поведінку: playback — для плеєрів (продовжує грати при заблокованому екрані), record — для запису з відключенням інших джерел, playAndRecord — для голосових повідомлень. Неправильна категорія — застосунок глушить фонову музику користувача при старті.

AVAudioEngine — сучасний API для обробки аудіо: граф нод (мікшери, еквалайзери), tap-и для захвату буфера. Для мовлення в реальному часі — SFSpeechRecognizer + inputNode.installTap.

На Android для запису з шумопригніченням — NoiseSuppressor.isAvailable() + create(audioRecord.audioSessionId). Працює не на всіх пристроях, потрібен fallback.

Відео: відтворення та стрімінг

ExoPlayer (Media3) — стандарт для Android. Підтримує HLS, DASH, SmoothStreaming, прогресивне відтворення. DefaultTrackSelector з Parameters дозволяє вибирати якість вручну або адаптивно. DRM через DefaultDrmSessionManager з Widevine L1/L3.

Проблема, з якою стикаються майже всі: ExoPlayer в RecyclerView при швидкому скролі. Потрібен PlayerPool — пул перевикористовуваних плеєрів. Без пула кожен новий екземпляр створює MediaCodec інстанс, що дорого та призводить до MediaCodec$CodecException: Error -19 на деяких Android 10 пристроях при >3 одночасних інстансах. Використання пулу зменшує споживання пам'яті до 3 разів.

AVPlayer / AVPlayerViewController на iOS — для відтворення. Для кастомного UI — AVPlayerLayer + власні контроли. HLS працює нативно через AVPlayer(url:) з m3u8. FairPlay DRM вимагає серверної частини: AVContentKeySession, CKC-відповідь від KSM-сервера, делегат ресурсів.

Для Flutter — video_player як базовий шар, chewie для UI. Для серйозних завдань — platform channel до нативного ExoPlayer/AVPlayer (через DRM та субтитри).

WebRTC на мобільних — через нативні фреймворки або flutter_webrtc. Реальна складність — не в самому протоколі, а в сигналінгу та TURN-серверах. Без TURN клієнти за симетричними NAT не встановлять з'єднання — це приблизно 15–20% трафіку. Coturn — стандартний open-source сервер.

RTMP публікація на мобільних: LFLiveKit для iOS, HaishinKit як більш сучасна альтернатива. На Android — rtmp-rtsp-stream-client-java або через FFmpeg з JNI. Останнє дає максимальну гнучкість, але бінарник зростає на 10–15 МБ.

Обробка медіа: компресія та транскодування

Відео в ProRes може займати 6 ГБ/хвилину. Перед завантаженням потрібна компресія. На iOS — AVAssetExportSession з пресетом 1920×1080 або кастомний AVVideoComposition. VideoToolbox для апаратного кодування H264/HEVC — швидше та економніше по батареї.

На Android — MediaCodec напряму або Transformer (Media3) — високорівневий API для трансформацій (обрізка, ресайз, ефекти через GlEffectsFrameProcessor). Для зображень — BitmapFactory.Options.inSampleSize для даунсемплінгу, Glide / Coil для кешування. Coil на Coroutines добре вписується в Compose. Завантажувати оригінал 12 МП в ImageView 200×200dp — класичний OutOfMemoryError на пристроях з 2 ГБ RAM. Тому ми завжди стискаємо зображення до 1 МБ перед відправкою.

Як реалізувати стрімінг на мобільних пристроях: покроковий план?

1. Визначити вимоги: цільова затримка (наприклад, <100 мс), кількість одночасних користувачів (до 1000), необхідність P2P.
2. Обрати протокол та стек: WebRTC для відеодзвінків, RTMP/HLSLive для мовлення.
3. Налаштувати сигналінг (SIP, WebSocket, MQTT) та TURN-сервер.
4. Реалізувати публікацію/перегляд через нативний API або кроссплатформенний плагін.
5. Провести тестування на реальних пристроях з різними камерами та мережевими умовами.
6. Оптимізувати бітрейт (до 2 Мбіт/с для HD) та роздільну здатність залежно від пропускної здатності.

Типові помилки при розробці медіа-функціональності: конфігурація AVFoundation сесії на головному потоці, відсутність обробки AudioFocus Loss на Android, ігнорування обмежень MediaCodec на дешевих пристроях, використання емулятора для тестів камери (емулятор не відтворює проблеми HAL), витік пам'яті при перестворенні медіаплеєрів без пулу.

Що входить в роботу?

Процес розробки медіафункціональності

Складність нелінійна: базове відтворення відео — 1–2 дні, кастомна камера з обробкою кадрів та стрімінгом — 3–5 тижнів. Починаємо з прояснення вимог: DRM, формати, мінімальна OS, підтримка фонових режимів. Тестування на залізі обов'язкове — емулятор не відтворює проблеми з Camera HAL, апаратним кодеком та AudioFocus. Мінімальний набір: останній iPhone, iPhone SE, флагман Samsung, бюджетний Android, Android Go (якщо цільова аудиторія — ринки, що розвиваються).

Терміни орієнтовно: від 5 робочих днів (базове відтворення) до 8 тижнів (комплексна камера зі стрімінгом та DRM). Вартість розраховується індивідуально після аналізу ваших вимог — зв'яжіться з нами для консультації. Типовий бюджет таких проєктів: від $2,000 до $15,000.

Фраза послуги: «Робота з медіа в мобільних застосунках» — це наш профіль. Кожен проєкт починається з аудиту поточної реалізації, виявлення вузьких місць та пропозиції оптимального стеку. Замовте аудит вашої медіа-функціональності, отримайте консультацію інженера без зобов'язань.