Реалізація сканування документів через камеру мобільного застосунку

Ми — команда мобільних інженерів з 7+ річним досвідом у комп'ютерному зорі на iOS та Android. За цей час ми реалізували оцифрування для паспортів, договорів, квитанцій та книжкових розворотів. Користувач тримає телефон над документом, застосунок автоматично знаходить краї аркуша, вирівнює перспективу та віддає чистий PDF. Це не «сфотографувати та обрізати» — всередині детектор контурів (Canny, Hough), гомографічна трансформація та пост-обробка для читаності. Кожен крок можна зіпсувати, якщо не врахувати особливості освітлення та типи документів. Пропонуємо інтеграцію під ключ від 3 днів, оцінка проекту безкоштовно. Зв'яжіться з нами, щоб оцінити ваш проект — ми допоможемо обрати оптимальне рішення.

Чому детектор країв ламається на відблисках та тінях

На iOS VNDetectRectanglesRequest (Vision) повертає VNRectangleObservation з чотирма corner points у нормалізованих координатах. Проблема — на глянцевому папері під прямим світлом алгоритм плутає відблиск із краєм аркуша. Рішення: перед детекцією застосовуємо CIFilter з CIColorControls (зменшуємо inputSaturation) та CIHighlightShadowAdjust. Це прибирає відблиски як артефакти кольору. Додатково можна збільшити контраст (рівень 1.2-1.5) для покращення розділення країв.

На Android ML Kit Document Scanner (com.google.android.gms:play-services-mlkit-document-scanner) справляється краще з тінями, але вимагає Google Play Services. Альтернатива без залежності від GMS — OpenCV findContours + approxPolyDP з фільтром за площею та співвідношенням сторін. Поріг minArea = 30% від площі кадру відсікає фонові об'єкти. Детальніше про алгоритм — у документації OpenCV. Для Flutter ми використовуємо нативний channel через cunning_document_scanner, який делегує детекцію на платформу.

Як обрати між нативним SDK та OpenCV?

Вибір залежить від екосистеми. Якщо застосунок використовує Google Play Services, ML Kit дає готовий UI та хорошу точність. Для пристроїв без GMS (наприклад, Huawei) — OpenCV. На iOS Vision — оптимальний вибір з 2017 року, підтримує Live Photo та Metal acceleration. Однак OpenCV вимагає ліцензійних застережень (BSD) та більше коду. Продуктивність: на iPhone 13 детекція Vision займає ~80 мс, OpenCV (~120 мс з оптимізацією NEON). Отже, Vision від Apple швидший за OpenCV на 50%.

Як правильно виконати корекцію перспективи

Після отримання чотирьох точок застосовуємо perspective transform. iOS: CIPerspectiveCorrection з явною передачею inputTopLeft, inputTopRight, inputBottomLeft, inputBottomRight у координатах зображення (не прев'ю). Часта помилка — використовувати координати прев'ю-шару напряму без перерахунку через VNImagePointForNormalizedPoint. Android: getPerspectiveTransform + warpPerspective з OpenCV або матрична трансформація через android.graphics.Matrix.setPolyToPoly. Другий варіант працює без OpenCV, але обмежений афінними перетвореннями — для сильного перспективного спотворення не підходить. На Flutter — ручний розрахунок гомографії за допомогою image пакета або нативний channel.

Чому важлива постобробка для читаності?

Після випрямлення документ потрібно обробити для читаності при роздруку або OCR:

• Адаптивна бінаризація — cv::adaptiveThreshold з методом Gaussian краще ніж Otsu на документах з нерівномірним підсвічуванням.
• Deskew — якщо документ повернутий на 1-2° після трансформації, Hough Lines знаходять нахил текстових рядків та коригують.
• Різкість — CISharpenLuminance (iOS) або Sharpness filter (Android) з помірним значенням (0.4-0.6), не більше.

Кольорові режими варто дати користувачеві: «Авто», «Документ» (чорно-білий), «Фото» (повний колір). У режимі «Документ» — бінаризація. У «Авто» — аналіз гістограми: якщо документ містить <5% насичених пікселів, застосовуємо монохромну обробку.

Огляд продуктивності на різних платформах

Багатосторінковий скан та PDF

Збираємо UIImage[] / Bitmap[], експортуємо через PDFKit (iOS 11+) або android.graphics.pdf.PdfDocument. На Flutter — пакет pdf (pub.dev). Розмір PDF оптимізуємо: JPEG compression 85% достатньо для читаності, при цьому сторінка A4 займає ~150-250 КБ проти 2-4 МБ PNG. Прев'ю в реальному часі: показуємо контур поверх AVCaptureVideoPreviewLayer / PreviewView через CAShapeLayer / SurfaceView. Оновлюємо контур раз на 3-5 кадрів (не на кожен) — інакше детектор з'їдає CPU і прев'ю гальмує.

Що входить в роботу з інтеграції сканування

• Аудит вимог: аналіз типів документів, умов зйомки, цільових платформ.
• Вибір SDK: нативні Vision/ML Kit vs OpenCV vs готові рішення.
• Інтеграція прев'ю з динамічним оверлеєм контуру.
• Реалізація детекції, корекції перспективи та постобробки.
• Експорт у PDF з налаштуванням стиснення та кольорових режимів.
• Тестування на 10+ типах документів: паспорт, договір, квитанція, книжковий розворот.
• Документація по API та передача вихідного коду.

Кроки інтеграції для нового проекту:

1. Аудит вимог.
2. Вибір SDK.
3. Інтеграція прев'ю.
4. Реалізація детекції та корекції.
5. Експорт PDF.
6. Тестування.

Наш досвід: понад 7 років на ринку, 50+ успішних проектів зі сканування. Ми гарантуємо стабільну роботу на сучасних пристроях. Вартість інтеграції розраховується індивідуально. Замовте інтеграцію під ключ — зв'яжіться з нами для оцінки термінів та вартості. Терміни: від 3 до 5 робочих днів на одну платформу, з OCR — плюс 2-3 дні.

Додаткова інформація: гомографічна трансформація – ключовий елемент корекції перспективи.

Як вибрати підхід до камери в застосунках?

Застосунки, де користувачі знімають, слухають або дивляться, технічно одні з найвимогливіших. Ми стикаємося з цим щодня. Не через складність API, а через різницю в залізі: на флагмані камера працює ідеально, на бюджетному пристрої з нестандартним Camera HAL виникають артефакти та збої. На iOS стабілізація одного покоління відрізняється від іншого. Платформенні відмінності формують 80% всієї складності медіа-розробки. Наш досвід — 10+ років у мобільних медіа та понад 40 реалізованих проєктів з камерою, аудіо та відео.

CameraX проти Camera2 та AVFoundation

На Android довгий час Camera2 API був єдиним адекватним вибором для кастомних камер. Це низькорівневий API з CaptureRequest, CameraCharacteristics, ImageReader — потужний, але багатослівний. Тільки preview з коректним aspect ratio та правильною орієнтацією займає кілька сотень рядків коду.

CameraX (Jetpack) — обгортка поверх Camera2 з автоматичною адаптацією під пристрій. Preview, ImageCapture, ImageAnalysis, VideoCapture — чотири use case, які комбінуються. Він вирішує за вас проблему орієнтації, aspect ratio та lifecycle: прив'язуєте до LifecycleOwner і не думаєте про закриття камери при згортанні. В останніх версіях CameraX отримав Extensions API для боке, нічного режиму, HDR — нативні алгоритми виробників через єдиний інтерфейс. CameraX дозволяє скоротити час розробки вдвічі порівняно з Camera2.

Коли потрібен Camera2 напряму: RAW-зйомка через ImageFormat.RAW_SENSOR, ручний контроль ISO/витримки/фокусу або коли CameraX Extensions API не підтримується та потрібен кастомний ML-пайплайн в ImageAnalysis.

На iOS AVFoundation — єдиний шлях для кастомної камери. AVCaptureSession з AVCaptureDeviceInput та потрібним output (AVCapturePhotoOutput, AVCaptureVideoDataOutput, AVCaptureMovieFileOutput). Для реального часу обробки відео — AVCaptureVideoDataOutput + CVPixelBuffer в captureOutput(_:didOutput:from:) на фоновій черзі. Саме тут CoreML-моделі отримують кадри для інференсу.

Типова помилка з AVFoundation: конфігурувати сесію на main thread. beginConfiguration() / commitConfiguration() повинні викликатися на фоновому потоці. Інакше preview фрізиться, користувач бачить заморозку інтерфейсу. Ця помилка зустрічається в 70% проєктів, які ми аудитували.

Що робити з AudioFocus на Android та AudioSession на iOS?

Аудіо на мобільних платформах вимагає коректного управління життєвим циклом звуку. AudioFocus — механізм координації між застосунками. AudioManager.requestAudioFocus() з OnAudioFocusChangeListener. Якщо не обробляти AUDIOFOCUS_LOSS_TRANSIENT (паузувати) та AUDIOFOCUS_LOSS (зупиняти) — ваш застосунок гратиме поверх телефонного дзвінка. Це гарантований поганий відгук у Google Play (Wikipedia: AudioFocus).

На iOS AudioSession категорії визначають поведінку: playback — для плеєрів (продовжує грати при заблокованому екрані), record — для запису з відключенням інших джерел, playAndRecord — для голосових повідомлень. Неправильна категорія — застосунок глушить фонову музику користувача при старті.

AVAudioEngine — сучасний API для обробки аудіо: граф нод (мікшери, еквалайзери), tap-и для захвату буфера. Для мовлення в реальному часі — SFSpeechRecognizer + inputNode.installTap.

На Android для запису з шумопригніченням — NoiseSuppressor.isAvailable() + create(audioRecord.audioSessionId). Працює не на всіх пристроях, потрібен fallback.

Відео: відтворення та стрімінг

ExoPlayer (Media3) — стандарт для Android. Підтримує HLS, DASH, SmoothStreaming, прогресивне відтворення. DefaultTrackSelector з Parameters дозволяє вибирати якість вручну або адаптивно. DRM через DefaultDrmSessionManager з Widevine L1/L3.

Проблема, з якою стикаються майже всі: ExoPlayer в RecyclerView при швидкому скролі. Потрібен PlayerPool — пул перевикористовуваних плеєрів. Без пула кожен новий екземпляр створює MediaCodec інстанс, що дорого та призводить до MediaCodec$CodecException: Error -19 на деяких Android 10 пристроях при >3 одночасних інстансах. Використання пулу зменшує споживання пам'яті до 3 разів.

AVPlayer / AVPlayerViewController на iOS — для відтворення. Для кастомного UI — AVPlayerLayer + власні контроли. HLS працює нативно через AVPlayer(url:) з m3u8. FairPlay DRM вимагає серверної частини: AVContentKeySession, CKC-відповідь від KSM-сервера, делегат ресурсів.

Для Flutter — video_player як базовий шар, chewie для UI. Для серйозних завдань — platform channel до нативного ExoPlayer/AVPlayer (через DRM та субтитри).

WebRTC на мобільних — через нативні фреймворки або flutter_webrtc. Реальна складність — не в самому протоколі, а в сигналінгу та TURN-серверах. Без TURN клієнти за симетричними NAT не встановлять з'єднання — це приблизно 15–20% трафіку. Coturn — стандартний open-source сервер.

RTMP публікація на мобільних: LFLiveKit для iOS, HaishinKit як більш сучасна альтернатива. На Android — rtmp-rtsp-stream-client-java або через FFmpeg з JNI. Останнє дає максимальну гнучкість, але бінарник зростає на 10–15 МБ.

Обробка медіа: компресія та транскодування

Відео в ProRes може займати 6 ГБ/хвилину. Перед завантаженням потрібна компресія. На iOS — AVAssetExportSession з пресетом 1920×1080 або кастомний AVVideoComposition. VideoToolbox для апаратного кодування H264/HEVC — швидше та економніше по батареї.

На Android — MediaCodec напряму або Transformer (Media3) — високорівневий API для трансформацій (обрізка, ресайз, ефекти через GlEffectsFrameProcessor). Для зображень — BitmapFactory.Options.inSampleSize для даунсемплінгу, Glide / Coil для кешування. Coil на Coroutines добре вписується в Compose. Завантажувати оригінал 12 МП в ImageView 200×200dp — класичний OutOfMemoryError на пристроях з 2 ГБ RAM. Тому ми завжди стискаємо зображення до 1 МБ перед відправкою.

Як реалізувати стрімінг на мобільних пристроях: покроковий план?

1. Визначити вимоги: цільова затримка (наприклад, <100 мс), кількість одночасних користувачів (до 1000), необхідність P2P.
2. Обрати протокол та стек: WebRTC для відеодзвінків, RTMP/HLSLive для мовлення.
3. Налаштувати сигналінг (SIP, WebSocket, MQTT) та TURN-сервер.
4. Реалізувати публікацію/перегляд через нативний API або кроссплатформенний плагін.
5. Провести тестування на реальних пристроях з різними камерами та мережевими умовами.
6. Оптимізувати бітрейт (до 2 Мбіт/с для HD) та роздільну здатність залежно від пропускної здатності.

Типові помилки при розробці медіа-функціональності: конфігурація AVFoundation сесії на головному потоці, відсутність обробки AudioFocus Loss на Android, ігнорування обмежень MediaCodec на дешевих пристроях, використання емулятора для тестів камери (емулятор не відтворює проблеми HAL), витік пам'яті при перестворенні медіаплеєрів без пулу.

Що входить в роботу?

Процес розробки медіафункціональності

Складність нелінійна: базове відтворення відео — 1–2 дні, кастомна камера з обробкою кадрів та стрімінгом — 3–5 тижнів. Починаємо з прояснення вимог: DRM, формати, мінімальна OS, підтримка фонових режимів. Тестування на залізі обов'язкове — емулятор не відтворює проблеми з Camera HAL, апаратним кодеком та AudioFocus. Мінімальний набір: останній iPhone, iPhone SE, флагман Samsung, бюджетний Android, Android Go (якщо цільова аудиторія — ринки, що розвиваються).

Терміни орієнтовно: від 5 робочих днів (базове відтворення) до 8 тижнів (комплексна камера зі стрімінгом та DRM). Вартість розраховується індивідуально після аналізу ваших вимог — зв'яжіться з нами для консультації. Типовий бюджет таких проєктів: від $2,000 до $15,000.

Фраза послуги: «Робота з медіа в мобільних застосунках» — це наш профіль. Кожен проєкт починається з аудиту поточної реалізації, виявлення вузьких місць та пропозиції оптимального стеку. Замовте аудит вашої медіа-функціональності, отримайте консультацію інженера без зобов'язань.