Автоматизація оцифрування паперових архівів з AI під ключ

Розробка AI для оцифрування паперових архівів

Уявіть: сотні тисяч сторінок документів, які роками пиляться в шафах. Ручне оцифрування такого обсягу — це роки роботи десятка операторів, помилки в датах і загублені сторінки. Ми впровадили AI-пайплайн для архіву з 500 000 сторінок — результат: 14 тижнів замість 3 років, а якість розпізнавання стабільно перевищила 95%. AI автоматизує ланцюжок: сканування → попередня обробка зображень → OCR → структурування → індексація. Типовий обсяг промислового архіву — сотні тисяч сторінок, які вручну обробляються роками. AI-pipeline скорочує час у 10–50 разів при порівнянній якості, а витрати знижуються в 5–8 разів. Це автоматизація архіву, яка окупається менш ніж за рік. Отримайте консультацію — оцінимо ваш архів і підберемо оптимальне рішення.

Наш сервіс автоматизації оцифрування архівів AI забезпечує високу якість OCR документів та розпізнавання тексту. Автоматизація архіву включає індексацію документів, пошук по архіву, обробку рукописів та історичних документів. Ми використовуємо нейромережі OCR (PaddleOCR) та попередню обробку зображень. Elasticsearch архів дозволяє швидко знаходити потрібну інформацію.

Які проблеми вирішуємо за допомогою AI

Основні проблеми

Низька якість вихідних матеріалів. Тіні, перекоси, нерівномірне освітлення — звичайна справа для архівних сканів. Без попередньої обробки OCR видає помилки в кожному другому слові. Ми застосовуємо CLAHE та морфологію для видалення тіней, вирівнювання через Hough Transform, та Sauvola бінаризацію — це стабільно підіймає accuracy до 95%.

Рукописний текст. Рукописи мають високу варіативність почерків. Використовуємо ансамбль з PaddleOCR та донавченої моделі на основі TrOCR для складних випадків. CER знижується до 2–6% при хорошій якості оригіналу.

Історичні документи. Вицвілі чорнила, плями, крихкий папір — потребують не лише цифрової обробки, але й акуратного фізичного сканування. Наш pipeline включає етап реставрації: видалення фону, відновлення контрасту, заповнення прогалин через inpainting.

Чому попередня обробка критична для якості OCR?

import cv2
import numpy as np
from PIL import Image, ImageEnhance

class DocumentPreprocessor:
    """
    Предобработка влияет на качество OCR кардинально:
    правильная бинаризация может поднять accuracy с 70% до 95%.
    """
    def preprocess_scanned_page(self, image: np.ndarray,
                                  dpi: int = 300) -> np.ndarray:
        """
        Полный pipeline предобработки страницы.
        DPI 300 минимум для OCR, 400+ для мелкого текста.
        """
        # 1. Выравнивание наклона (deskew)
        deskewed = self._deskew(image)

        # 2. Удаление теней и неравномерного освещения
        shadowless = self._remove_shadows(deskewed)

        # 3. Адаптивная бинаризация (Sauvola)
        binary = self._binarize_sauvola(shadowless)

        # 4. Удаление шума и артефактов (пятна, пыль)
        cleaned = self._remove_noise(binary)

        # 5. Нормализация размера
        if dpi != 300:
            scale = 300 / dpi
            h, w = cleaned.shape[:2]
            cleaned = cv2.resize(cleaned, (int(w*scale), int(h*scale)),
                                 interpolation=cv2.INTER_AREA)
        return cleaned

    def _deskew(self, image: np.ndarray) -> np.ndarray:
        """Коррекция угла наклона через Hough Transform"""
        gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY) if len(image.shape) == 3 else image
        edges = cv2.Canny(gray, 50, 150, apertureSize=3)
        lines = cv2.HoughLines(edges, 1, np.pi/180, threshold=200)

        if lines is None:
            return image

        angles = []
        for line in lines[:20]:  # берём только самые явные линии
            rho, theta = line[0]
            angle = np.degrees(theta) - 90
            if abs(angle) < 45:
                angles.append(angle)

        if not angles:
            return image

        median_angle = np.median(angles)
        if abs(median_angle) < 0.5:  # незначительный наклон — пропускаем
            return image

        h, w = image.shape[:2]
        M = cv2.getRotationMatrix2D((w/2, h/2), median_angle, 1.0)
        return cv2.warpAffine(image, M, (w, h),
                               flags=cv2.INTER_CUBIC,
                               borderMode=cv2.BORDER_REPLICATE)

    def _remove_shadows(self, image: np.ndarray) -> np.ndarray:
        """Устранение теней через CLAHE + морфология"""
        if len(image.shape) == 3:
            lab = cv2.cvtColor(image, cv2.COLOR_BGR2LAB)
            l, a, b = cv2.split(lab)
        else:
            l = image

        clahe = cv2.createCLAHE(clipLimit=2.0, tileGridSize=(8, 8))
        l_enhanced = clahe.apply(l)

        # Вычитание градиента освещённости
        kernel = cv2.getStructuringElement(cv2.MORPH_RECT, (50, 50))
        bg = cv2.morphologyEx(l_enhanced, cv2.MORPH_DILATE, kernel)
        normalized = cv2.divide(l_enhanced, bg, scale=255)

        if len(image.shape) == 3:
            return cv2.cvtColor(cv2.merge([normalized, a, b]), cv2.COLOR_LAB2BGR)
        return normalized

    def _binarize_sauvola(self, image: np.ndarray,
                           window_size: int = 25,
                           k: float = 0.2) -> np.ndarray:
        """
        Sauvola бинаризация: лучше Otsu для неравномерного фона.
        window_size=25 — оптимум для большинства текстовых документов.
        """
        from skimage.filters import threshold_sauvola
        gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY) if len(image.shape) == 3 else image
        thresh = threshold_sauvola(gray, window_size=window_size, k=k)
        binary = (gray > thresh).astype(np.uint8) * 255
        return binary

    def _remove_noise(self, binary: np.ndarray,
                       min_blob_area: int = 20) -> np.ndarray:
        """Удаление мелких артефактов (пыль, царапины)"""
        # Находим связные компоненты
        num_labels, labels, stats, _ = cv2.connectedComponentsWithStats(
            binary, connectivity=8
        )
        # Удаляем компоненты меньше min_blob_area пикселей
        clean = np.zeros_like(binary)
        for i in range(1, num_labels):
            if stats[i, cv2.CC_STAT_AREA] >= min_blob_area:
                clean[labels == i] = 255
        return clean

Як ми прискорюємо оцифрування: паралельна обробка

import asyncio
from pathlib import Path
from paddleocr import PaddleOCR
import json
import sqlite3

class ArchiveDigitizationPipeline:
    def __init__(self, db_path: str, output_dir: str,
                  lang: str = 'ru'):
        self.ocr = PaddleOCR(use_angle_cls=True, lang=lang,
                              use_gpu=True, show_log=False)
        self.preprocessor = DocumentPreprocessor()
        self.db = sqlite3.connect(db_path)
        self.output_dir = Path(output_dir)
        self._init_db()

    def _init_db(self):
        self.db.execute('''
            CREATE TABLE IF NOT EXISTS documents (
                id INTEGER PRIMARY KEY,
                file_path TEXT UNIQUE,
                status TEXT DEFAULT 'pending',
                ocr_text TEXT,
                metadata TEXT,
                processed_at TIMESTAMP
            )
        ''')
        self.db.commit()

    def process_batch(self, image_paths: list[str],
                       n_workers: int = 4) -> dict:
        """Параллельная обработка пакета документов"""
        from concurrent.futures import ProcessPoolExecutor
        from tqdm import tqdm

        results = {'success': 0, 'failed': 0, 'errors': []}

        with ProcessPoolExecutor(max_workers=n_workers) as executor:
            futures = {
                executor.submit(self._process_single, p): p
                for p in image_paths
            }

            for future in tqdm(futures, total=len(futures),
                               desc='Digitizing archive'):
                path = futures[future]
                try:
                    result = future.result(timeout=120)
                    self._save_to_db(path, result)
                    results['success'] += 1
                except Exception as e:
                    results['failed'] += 1
                    results['errors'].append(str(e))

        return results

    def _process_single(self, image_path: str) -> dict:
        import cv2
        image = cv2.imread(image_path)
        preprocessed = self.preprocessor.preprocess_scanned_page(image)

        ocr_result = self.ocr.ocr(preprocessed, cls=True)
        if not ocr_result or not ocr_result[0]:
            return {'text': '', 'lines': [], 'confidence': 0}

        lines = []
        confidences = []
        for line in ocr_result[0]:
            bbox, (text, conf) = line
            lines.append({'text': text, 'confidence': conf, 'bbox': bbox})
            confidences.append(conf)

        full_text = '\n'.join(l['text'] for l in lines)
        mean_confidence = float(np.mean(confidences)) if confidences else 0

        return {
            'text': full_text,
            'lines': lines,
            'confidence': mean_confidence,
            'low_quality': mean_confidence < 0.7
        }

Використовуємо PaddleOCR як основу OCR-движка. Він забезпечує високу якість розпізнавання російської мови та підтримує GPU-прискорення. Для складних випадків застосовуємо нейромережі OCR на базі TrOCR.

Повнотекстова індексація результатів

Повнотекстова індексація виконується за допомогою Elasticsearch з російським аналізатором.

import elasticsearch

class ArchiveSearchIndex:
    def __init__(self, es_url: str, index_name: str = 'archive'):
        self.es = elasticsearch.Elasticsearch([es_url])
        self.index = index_name
        self._create_index()

    def _create_index(self):
        mapping = {
            'mappings': {
                'properties': {
                    'file_path': {'type': 'keyword'},
                    'text': {
                        'type': 'text',
                        'analyzer': 'russian'
                    },
                    'confidence': {'type': 'float'},
                    'metadata': {'type': 'object'},
                    'processed_at': {'type': 'date'}
                }
            }
        }
        if not self.es.indices.exists(index=self.index):
            self.es.indices.create(index=self.index, body=mapping)

    def index_document(self, doc_id: str, text: str,
                        file_path: str, metadata: dict = None):
        self.es.index(index=self.index, id=doc_id, body={
            'text': text, 'file_path': file_path,
            'metadata': metadata or {}
        })

    def search(self, query: str, size: int = 10) -> list:
        result = self.es.search(index=self.index, body={
            'query': {'match': {'text': query}},
            'highlight': {'fields': {'text': {}}},
            'size': size
        })
        return result['hits']['hits']

Для індексації використовуємо Elasticsearch з російським аналізатором. Це забезпечує швидкий пошук по архіву.

Як ми гарантуємо стабільну якість розпізнавання?

Після кожного етапу ми проводимо контрольні заміри на репрезентативній вибірці (мінімум 500 сторінок). Якщо CER перевищує 5% для друкованих документів, коригуємо гіперпараметри попередньої обробки або донавчаємо OCR-модель. Для рукописів поріг — 10%. При необхідності підключаємо ручну вивірку найскладніших фрагментів. Такий підхід забезпечує стабільну якість і низький CER навіть на складних вихідних матеріалах.

Що входить в результат?

Після завершення проекту ви отримуєте:

• Повний цифровий архів з розпізнаним текстом (PDF/A, TXT, JSON)
• Індекс Elasticsearch з повнотекстовим пошуком
• API для інтеграції з вашими системами (REST, SOAP)
• Документацію пайплайну та інструкції з експлуатації
• Навчання персоналу роботі з системою
• Гарантійну підтримку на 3 місяці

Покроковий процес впровадження AI-пайплайну

1. Аудит архіву: оцінка обсягу, стану документів, підбір стеку (PaddleOCR, Elasticsearch, Python).
2. Пілотний проект: оцифрування 1000 сторінок для калібрування пайплайну та фіксації метрик.
3. Розробка та налаштування: підбір гіперпараметрів попередньої обробки, донавчання OCR-моделі при необхідності.
4. Масштабування: запуск паралельної обробки на GPU-серверах з моніторингом в реальному часі.
5. Інтеграція та пошук: налаштування Elasticsearch, розробка API для доступу до розпізнаних текстів.
6. Тестування та приймання: контрольне розпізнавання всієї вибірки, виправлення систематичних помилок.

Очікувані результати та строки

AI-пайплайн обробляє документи в 10–50 разів швидше за людину при тій же якості — це пряме порівняння, підтверджене нашими проектами. Наприклад, для архіву обсягом 100 000 сторінок економія становить приблизно €30,000–€60,000.

Чек-лист підготовки архіву до оцифрування

• Переконайтеся, що всі документи розсортовані та очищені від скріпок/файлів.
• Відскануйте документи в кольорі з роздільною здатністю 300 dpi (мінімум).
• Перевірте, що скани не мають сильних перекосів (ідеально — рівні).
• Розбийте архів на логічні одиниці (папки, справи).
• Надайте метадані (дати, номери справ) для зв’язки.

Як distribution shift вбиває метрики CV-моделі в промисловості

На виробництві ставлять камеру, контролюють якість продукції. Модель навчена на 10 000 розмічених зображень — точність на тесті mAP 0.84. Запускають у продакшен — і в перший же тиждень пропускають 30% дефектів. Освітлення на лінії змінюється по змінах, distribution shift обнуляє метрики. Це класична історія з Computer Vision у промисловості, де розпізнавання образів дає збій без правильної обробки дрейфу.

Наші інженери з досвідом 60+ проектів з комп'ютерного зору знають, як виключити такі сценарії. Гарантуємо стабільну роботу моделі в реальних умовах.

Які архітектури детекції об'єктів обрати: YOLO, RT‑DETR чи інші?

YOLO — стандарт для real‑time детекції. YOLOv8 та YOLOv11 від Ultralytics — найбільш використовувані версії у виробництві: простий API, активна спільнота, вбудована валідація та експорт в ONNX/TensorRT. Для задач з високими вимогами до точності та коли latency менш критична — RT‑DETR, transformer‑based архітектура без NMS, дає кращий mAP на COCO при порівнянній швидкості з YOLOv8l.

Типова помилка при навчанні детектора: датасет 8000 зображень, 3 класи, fine‑tune YOLOv8m — F1 0.73 на валідації. Дивимося confusion matrix — один клас майже ніколи не детектується. Причина: дисбаланс 1:23. Рішення: oversampling рідкісного класу, focal loss для objectness, аугментації (Mosaic, MixUp вимкнути для рідкісного класу — вони його «розмивають»). Transfer learning обов'язковий: передтреновані на COCO ваги скорочують потребу в даних у 10 разів. Fine‑tune на 500–2000 доменних зображеннях дає робочу модель за 1–2 дні на одній GPU.

Для edge deployment: експорт в ONNX → TensorRT engine. YOLOv8n в TensorRT FP16 на Jetson AGX Orin дає 150+ FPS при P99 latency < 8 ms — це в 3 рази швидше, ніж ONNX Runtime без TensorRT. На сервері A10G: 700+ FPS для YOLOv8n в TensorRT INT8.

Як fine‑tuning YOLO допомагає в розпізнаванні образів?

Припустимо, потрібно знаходити мікродефекти на поверхні металу — задача з високою роздільною здатністю та перекосом класів. Використовуємо YOLOv8m, передтренований на COCO (документація Ultralytics), і донавчаємо на 2000 власних зображень. Застосовуємо аугментації Mosaic, MixUp, random perspective. Після 200 епох mAP 0.5 досягає 0.93. Ключові прийоми:

• focal loss для objectness голови — зменшує внесок легко класифікованих прикладів.
• class‑balanced sampling — вирівнює представництво рідкісних класів.
• Test Time Augmentation (TTA) — підвищує recall на 5–7% за рахунок усереднення по фліпах та масштабах.

Отримайте консультацію з підбору архітектури для вашого завдання — зв'яжіться з нами.

Які архітектури сегментації обрати: SAM, Mask R‑CNN чи інші?

SAM (Segment Anything Model) від Meta змінив підхід до сегментації. SAM 2 працює з відео, підтримує трекінг об'єктів через кадри — для інтерактивного виділення об'єкта по точці або bbox це найкращий вибір з коробки. Для production instance segmentation без інтерактивного промпту — Mask R‑CNN або YOLOv8‑seg. YOLOv8‑seg навчається як звичайний детектор з додатковими масками, зручний у тих же пайплайнах. Семантична сегментація (кожен піксель — клас) — SegFormer, DeepLabV3+. SegFormer‑B5 дає хороший баланс точності та швидкості для аналізу супутникових знімків або медичної сегментації.

Кейс: сегментація клітин на мікроскопічних зображеннях. Датасет 400 зображень з ручною розміткою. Навчання Mask R‑CNN на ResNet‑50 backbone дало IoU 0.61 — погано. Проблема: об'єкти (клітини) перекриваються, стандартний NMS вбиває перекриваючі передбачення. Рішення: перехід на cellpose (спеціалізована архітектура для біомедичних задач) + soft‑NMS. IoU зріс до 0.79.

Коли Tesseract не справляється з OCR?

Tesseract — відправна точка для простих задач: друкований текст, хороше освітлення, рівне розташування. Як тільки з'являються рукописні елементи, нестандартні шрифти, перспективні спотворення або багатоколоночний макет — Tesseract деградує швидко.

PaddleOCR — production‑grade рішення: виявлення текстових блоків + розпізнавання + структурний аналіз. Працює з коробки для 80+ мов, включаючи українську. Підтримує таблиці та документи зі складною структурою. Wikipedia: Оптичне розпізнавання символів. TrOCR (Microsoft) — трансформерний OCR з сильними результатами на рукописному тексті. Для українського рукописного тексту потрібен fine‑tuning: базова модель навчена переважно на латиниці.

Що робити, якщо Tesseract не справляється з розпізнаванням образів на документах?

Для задач «витягни дані з рахунку / договору / паспорта» використовуємо LayoutLMv3 або Donut — ці моделі розуміють layout документа, а не тільки текст. Інтеграція через Hugging Face Transformers, fine‑tuning на 200–500 розмічених документах. Типовий pipeline:

1. Preprocessing: deskew, denoising, binarization через OpenCV.
2. Виявлення текстових блоків: PaddleOCR detection або CRAFT.
3. Розпізнавання: PaddleOCR recognition або TrOCR.
4. Post‑processing: нормалізація, валідація через regex або LLM для структурованих полів.

Для документів з фіксованою структурою template matching + OCR точково по координатах часто надійніше за end‑to‑end рішення.

Face Recognition: ідентифікація та верифікація

Face recognition = detection + alignment + embedding + matching. Кожен етап важливий.

Detection: RetinaFace або InsightFace для точної локалізації обличчя та ключових точок. MTCNN — старіше, але надійне рішення. Embedding: ArcFace (InsightFace) — state‑of‑the‑art для face recognition embeddings. Моделі iresnet50/iresnet100 передтреновані на MS1MV3 (5M ідентичностей). Ембеддинг‑вектор 512 float32, порівняння за cosine similarity. Threshold tuning: поріг рішення — критичний параметр. При threshold 0.6 типовий FPR на LFW benchmark — 0.001, TPR — 0.985. У production threshold потрібно калібрувати під реальний distribution: люди в масках, зі зміненою зовнішністю, в різних умовах освітлення. Liveness detection обов'язковий: MiniFASNet — lightweight модель на CPU, FaceX‑Zoo містить кілька передтренованих liveness‑детекторів.

Відеоаналітика

Відео — послідовність кадрів плюс часовий вимір. Наївний підхід — детектувати на кожному кадрі — дорого.

Трекінг: ByteTrack та BoT‑SORT — стандарт для multi‑object tracking. Працюють поверх будь-якого детектора, додають persistent ID об'єктам між кадрами — це дає підрахунок об'єктів, трекі руху, velocity.

Оптимізація: не потрібно обробляти кожен кадр. Для статичних сцен детекція на кожному 5–10 кадрі, між ними — трекер. Для детекції подій (людина увійшла в зону) background subtraction (OpenCV MOG2) як lightweight pre‑filter перед нейромережевою детекцією. Action Recognition: SlowFast, VideoMAE для класифікації дій. Важкі моделі — для production використовуємо ONNX export + TensorRT або офлайн обробку.

Як виміряти якість моделі розпізнавання образів у продакшені?

Моніторинг якості — ключовий елемент MLOps. Відстежуємо:

• розподіл prediction confidence;
• частку low‑confidence передбачень (індикатор OOD‑даних);
• дрейф вхідних зображень через feature distribution (embeddings з backbone).

Падіння середньої confidence з 0.87 до 0.71 за тиждень — ранній сигнал про distribution shift. NVIDIA Triton Inference Server рекомендує відстежувати ці метрики через Prometheus. Наші сертифіковані інженери налаштовують моніторинг і гарантують SLA по якості інференсу.

Деплой CV‑моделей

Для онлайн інференсу використовуємо Triton Inference Server (NVIDIA) — production‑стандарт для serving CV‑моделей. Підтримує TensorRT, ONNX, PyTorch, dynamic batching, multiple instances. REST та gRPC API. Гарантуємо стабільну роботу під навантаженням.

Edge deployment: ONNX Runtime на ARM/x86 CPU. TensorFlow Lite для мобільних пристроїв. OpenVINO для Intel CPU/GPU/VPU — дає 2–3× приріст швидкості на Intel залізі порівняно з ONNX Runtime. Після деплою передаємо модель з документацією та навчаємо персонал.

Що входить в роботу

Терміни та вартість

Прототип детектора на існуючих даних — 1–2 тижні. Production‑система з оптимізацією під цільове залізо — 4–8 тижнів. Повний цикл включаючи розмітку даних (1000–5000 зображень) — 2–4 місяці. Вартість розраховується індивідуально під кожну задачу. Ми на ринку більше 5 років, реалізували 60+ проектів з комп'ютерного зору. Оцінимо ваш проект під ключ — замовте консультацію, щоб отримати розрахунок та технічну пропозицію.