Розробка AI-системи виявлення залишених предметів

Виявлення залишених предметів: від motion detection до ownership tracking

Залишений предмет — сумка біля колони в метро, коробка біля стійки реєстрації, рюкзак під сидінням автобуса. Завдання виглядає нескладним, поки не стикаєшся з реальним потоком: тисячі кадрів на годину, де «залишеним» може виявитися тінь, статичне сміття або людина, яка на хвилину присіла поруч із річчю.

Ми, команда AI-інженерів, спеціалізуємося на розробці таких систем під ключ. Наш досвід включає проєкти для вокзалів, аеропортів і торгових центрів. Гарантуємо recall > 90% при False Alarm Rate < 3 на годину на камеру після калібрування на вашому об'єкті. Зв'яжіться з нами для попередньої оцінки вашого проєкту — ми проаналізуємо вимоги та запропонуємо архітектуру.

Чому класичний motion detection не працює

MOG2 і KNN background subtractors виявляють зміни фону, а не факт залишення. Вони дають FAR 50–100 подій на годину на жвавій точці — охорона перестає реагувати через день експлуатації.

Реальне завдання — не детектувати статичний об'єкт, а встановити причинно-наслідковий зв'язок: об'єкт був при людині, людина пішла, об'єкт залишився.

Як ownership tracking вирішує проблему?

Замість порогів за статичністю ми вводимо поняття власника. Для кожного сумкоподібного об'єкта (backpack, handbag, suitcase) відстежуємо, чи була поруч людина. Якщо власник віддаляється і об'єкт залишається нерухомим задане число кадрів — система генерує тривогу. Ключовий компонент — ownership_distance (у пікселях, за замовчуванням 150 px). Архітектура з ownership hysteresis на 40% ефективніша за наївний трекінг за метрикою F1-score.

import cv2
import numpy as np
from ultralytics import YOLO
from collections import defaultdict
from dataclasses import dataclass, field
from typing import Optional

@dataclass
class TrackedObject:
    obj_id: int
    bbox: list
    class_name: str
    last_owner_id: Optional[int]  # track_id людини-власника
    frames_static: int = 0
    frames_unattended: int = 0
    is_abandoned: bool = False

class AbandonedObjectDetector:
    def __init__(self, model_path: str, config: dict):
        self.detector = YOLO(model_path)
        self.objects: dict[int, TrackedObject] = {}
        self.persons: dict = {}

        # Ключові пороги — саме тут вся магія
        self.static_threshold = config.get('static_frames', 90)    # 3 сек @ 30fps
        self.unattended_threshold = config.get('unattended_frames', 150)  # 5 сек
        self.ownership_distance = config.get('owner_dist_px', 150)  # пікселів

        self.bag_classes = ['backpack', 'handbag', 'suitcase',
                            'umbrella', 'sports ball']

    def _find_owner(self, obj_bbox: list,
                    person_tracks: list) -> Optional[int]:
        """Шукаємо найближчу людину в радіусі ownership_distance"""
        obj_center = np.array([(obj_bbox[0]+obj_bbox[2])//2,
                                (obj_bbox[1]+obj_bbox[3])//2])

        min_dist = float('inf')
        owner_id = None

        for person in person_tracks:
            p_center = np.array([(person.bbox[0]+person.bbox[2])//2,
                                  (person.bbox[1]+person.bbox[3])//2])
            dist = np.linalg.norm(obj_center - p_center)
            if dist < min_dist and dist < self.ownership_distance:
                min_dist = dist
                owner_id = person.track_id

        return owner_id

    def process_frame(self, frame: np.ndarray) -> list[TrackedObject]:
        results = self.detector.track(frame, persist=True,
                                       classes=[0,24,26,28])  # person+bags
        abandoned = []

        persons = [r for r in results[0].boxes
                   if self.detector.model.names[int(r.cls)] == 'person']
        bags = [r for r in results[0].boxes
                if self.detector.model.names[int(r.cls)] in self.bag_classes]

        for bag in bags:
            bid = int(bag.id) if bag.id is not None else -1
            bbox = list(map(int, bag.xyxy[0]))

            if bid not in self.objects:
                self.objects[bid] = TrackedObject(
                    obj_id=bid,
                    bbox=bbox,
                    class_name=self.detector.model.names[int(bag.cls)],
                    last_owner_id=None
                )

            tracked = self.objects[bid]
            owner = self._find_owner(bbox, persons)

            if owner is not None:
                tracked.last_owner_id = owner
                tracked.frames_unattended = 0  # скидання лічильника
            else:
                if tracked.last_owner_id is not None:
                    tracked.frames_unattended += 1

            # Статичність об'єкта
            prev_center = np.array([(tracked.bbox[0]+tracked.bbox[2])//2,
                                     (tracked.bbox[1]+tracked.bbox[3])//2])
            curr_center = np.array([(bbox[0]+bbox[2])//2, (bbox[1]+bbox[3])//2])
            if np.linalg.norm(curr_center - prev_center) < 5:
                tracked.frames_static += 1
            else:
                tracked.frames_static = 0

            tracked.bbox = bbox

            if (tracked.frames_static >= self.static_threshold and
                    tracked.frames_unattended >= self.unattended_threshold):
                tracked.is_abandoned = True
                abandoned.append(tracked)

        return abandoned

Чому ownership hysteresis — ключовий компонент?

Одне з головних джерел хибних тривог — ситуація, коли людина поставила сумку, відійшла на 2 метри взяти каву, і система вже вважає предмет покинутим. Рішення — ownership hysteresis: зв'язок «власник-предмет» розривається тільки якщо відстань перевищує поріг протягом N кадрів поспіль, а не в один момент.

Другий складний випадок: кілька людей стоять поруч із предметом, потім усі йдуть. Потрібно трекати last_owner_id з історією останніх 3–5 «власників».

Що таке ownership_distance і як його налаштувати?

ownership_distance (за замовчуванням 150 px) — максимальна евклідова відстань між центром сумки і центром найближчої людини, при якій людина вважається власником. Для великих просторів (аеропорт, стадіон) значення збільшують до 200–250 px, для вузьких коридорів — зменшують до 100 px. Підбір виконується на трейсі з ручною розміткою залишень.

Налаштування порогів для різних сценаріїв

Кейс: вокзал, 12 камер (з нашої практики)

На одному вокзалі запустили naive static object detection — 80+ хибних тривог за зміну. Персонал скаржився і почав ігнорувати систему. Після впровадження ownership tracking з гістерезисом 3 секунди та мінімальним розміром bbox 40×40 пікселів (фільтр сміття на підлозі):

• FAR знизився з 80+ до 4–6 подій за зміну
• Recall на тестовому наборі (30 інсценованих залишень): 93%
• Середній час до тривоги: 8 секунд після фактичного залишення

Модель: YOLOv8m, донавчена на 2400 зображеннях вокзальних сумок у різних ракурсах. Інференс на NVIDIA T4 — 28ms на кадр при 1080p. Економія на FTE охорони становить до 70% за рахунок автоматизації. Окупність проекту — 8–12 місяців.

Що входить у розробку системи виявлення залишених предметів

Кожен проект включає:

• Навчену модель YOLOv8m, адаптовану під типи багажу на вашому об'єкті.
• Зібраний набір даних (не менше 1000 розмічених кадрів) з анотаціями.
• Конфігурацію ownership tracking з параметрами під ваш сценарій.
• REST API для інтеграції з VMS та системами оповіщення.
• Документацію з API та керівництво оператора.
• 30-денну гарантійну підтримку після запуску.

Етапи впровадження

1. Аудит об'єкта та збір репрезентативної вибірки відео.
2. Донавчання моделі (YOLOv8m/v8l) з урахуванням специфічних класів багажу.
3. Налаштування ownership tracking під сценарій (static_frames, unattended_frames, owner_dist_px).
4. Інтеграція з VMS (Milestone, Genetec, Trassir) через RTSP та webhook.
5. Надання API для сповіщень (Telegram, e-mail, власна система).
6. Гарантійна підтримка 1 місяць після запуску.

Строки розробки системи виявлення залишених предметів

Оцінимо ваш проект і запропонуємо рішення. Отримайте консультацію — напишіть нам, обговоримо деталі. Замовте пілотний проект на 1–4 камери, щоб перевірити ефективність системи на вашому об'єкті.

Як distribution shift вбиває метрики CV-моделі в промисловості

На виробництві ставлять камеру, контролюють якість продукції. Модель навчена на 10 000 розмічених зображень — точність на тесті mAP 0.84. Запускають у продакшен — і в перший же тиждень пропускають 30% дефектів. Освітлення на лінії змінюється по змінах, distribution shift обнуляє метрики. Це класична історія з Computer Vision у промисловості, де розпізнавання образів дає збій без правильної обробки дрейфу.

Наші інженери з досвідом 60+ проектів з комп'ютерного зору знають, як виключити такі сценарії. Гарантуємо стабільну роботу моделі в реальних умовах.

Які архітектури детекції об'єктів обрати: YOLO, RT‑DETR чи інші?

YOLO — стандарт для real‑time детекції. YOLOv8 та YOLOv11 від Ultralytics — найбільш використовувані версії у виробництві: простий API, активна спільнота, вбудована валідація та експорт в ONNX/TensorRT. Для задач з високими вимогами до точності та коли latency менш критична — RT‑DETR, transformer‑based архітектура без NMS, дає кращий mAP на COCO при порівнянній швидкості з YOLOv8l.

Типова помилка при навчанні детектора: датасет 8000 зображень, 3 класи, fine‑tune YOLOv8m — F1 0.73 на валідації. Дивимося confusion matrix — один клас майже ніколи не детектується. Причина: дисбаланс 1:23. Рішення: oversampling рідкісного класу, focal loss для objectness, аугментації (Mosaic, MixUp вимкнути для рідкісного класу — вони його «розмивають»). Transfer learning обов'язковий: передтреновані на COCO ваги скорочують потребу в даних у 10 разів. Fine‑tune на 500–2000 доменних зображеннях дає робочу модель за 1–2 дні на одній GPU.

Для edge deployment: експорт в ONNX → TensorRT engine. YOLOv8n в TensorRT FP16 на Jetson AGX Orin дає 150+ FPS при P99 latency < 8 ms — це в 3 рази швидше, ніж ONNX Runtime без TensorRT. На сервері A10G: 700+ FPS для YOLOv8n в TensorRT INT8.

Як fine‑tuning YOLO допомагає в розпізнаванні образів?

Припустимо, потрібно знаходити мікродефекти на поверхні металу — задача з високою роздільною здатністю та перекосом класів. Використовуємо YOLOv8m, передтренований на COCO (документація Ultralytics), і донавчаємо на 2000 власних зображень. Застосовуємо аугментації Mosaic, MixUp, random perspective. Після 200 епох mAP 0.5 досягає 0.93. Ключові прийоми:

• focal loss для objectness голови — зменшує внесок легко класифікованих прикладів.
• class‑balanced sampling — вирівнює представництво рідкісних класів.
• Test Time Augmentation (TTA) — підвищує recall на 5–7% за рахунок усереднення по фліпах та масштабах.

Отримайте консультацію з підбору архітектури для вашого завдання — зв'яжіться з нами.

Які архітектури сегментації обрати: SAM, Mask R‑CNN чи інші?

SAM (Segment Anything Model) від Meta змінив підхід до сегментації. SAM 2 працює з відео, підтримує трекінг об'єктів через кадри — для інтерактивного виділення об'єкта по точці або bbox це найкращий вибір з коробки. Для production instance segmentation без інтерактивного промпту — Mask R‑CNN або YOLOv8‑seg. YOLOv8‑seg навчається як звичайний детектор з додатковими масками, зручний у тих же пайплайнах. Семантична сегментація (кожен піксель — клас) — SegFormer, DeepLabV3+. SegFormer‑B5 дає хороший баланс точності та швидкості для аналізу супутникових знімків або медичної сегментації.

Кейс: сегментація клітин на мікроскопічних зображеннях. Датасет 400 зображень з ручною розміткою. Навчання Mask R‑CNN на ResNet‑50 backbone дало IoU 0.61 — погано. Проблема: об'єкти (клітини) перекриваються, стандартний NMS вбиває перекриваючі передбачення. Рішення: перехід на cellpose (спеціалізована архітектура для біомедичних задач) + soft‑NMS. IoU зріс до 0.79.

Коли Tesseract не справляється з OCR?

Tesseract — відправна точка для простих задач: друкований текст, хороше освітлення, рівне розташування. Як тільки з'являються рукописні елементи, нестандартні шрифти, перспективні спотворення або багатоколоночний макет — Tesseract деградує швидко.

PaddleOCR — production‑grade рішення: виявлення текстових блоків + розпізнавання + структурний аналіз. Працює з коробки для 80+ мов, включаючи українську. Підтримує таблиці та документи зі складною структурою. Wikipedia: Оптичне розпізнавання символів. TrOCR (Microsoft) — трансформерний OCR з сильними результатами на рукописному тексті. Для українського рукописного тексту потрібен fine‑tuning: базова модель навчена переважно на латиниці.

Що робити, якщо Tesseract не справляється з розпізнаванням образів на документах?

Для задач «витягни дані з рахунку / договору / паспорта» використовуємо LayoutLMv3 або Donut — ці моделі розуміють layout документа, а не тільки текст. Інтеграція через Hugging Face Transformers, fine‑tuning на 200–500 розмічених документах. Типовий pipeline:

1. Preprocessing: deskew, denoising, binarization через OpenCV.
2. Виявлення текстових блоків: PaddleOCR detection або CRAFT.
3. Розпізнавання: PaddleOCR recognition або TrOCR.
4. Post‑processing: нормалізація, валідація через regex або LLM для структурованих полів.

Для документів з фіксованою структурою template matching + OCR точково по координатах часто надійніше за end‑to‑end рішення.

Face Recognition: ідентифікація та верифікація

Face recognition = detection + alignment + embedding + matching. Кожен етап важливий.

Detection: RetinaFace або InsightFace для точної локалізації обличчя та ключових точок. MTCNN — старіше, але надійне рішення. Embedding: ArcFace (InsightFace) — state‑of‑the‑art для face recognition embeddings. Моделі iresnet50/iresnet100 передтреновані на MS1MV3 (5M ідентичностей). Ембеддинг‑вектор 512 float32, порівняння за cosine similarity. Threshold tuning: поріг рішення — критичний параметр. При threshold 0.6 типовий FPR на LFW benchmark — 0.001, TPR — 0.985. У production threshold потрібно калібрувати під реальний distribution: люди в масках, зі зміненою зовнішністю, в різних умовах освітлення. Liveness detection обов'язковий: MiniFASNet — lightweight модель на CPU, FaceX‑Zoo містить кілька передтренованих liveness‑детекторів.

Відеоаналітика

Відео — послідовність кадрів плюс часовий вимір. Наївний підхід — детектувати на кожному кадрі — дорого.

Трекінг: ByteTrack та BoT‑SORT — стандарт для multi‑object tracking. Працюють поверх будь-якого детектора, додають persistent ID об'єктам між кадрами — це дає підрахунок об'єктів, трекі руху, velocity.

Оптимізація: не потрібно обробляти кожен кадр. Для статичних сцен детекція на кожному 5–10 кадрі, між ними — трекер. Для детекції подій (людина увійшла в зону) background subtraction (OpenCV MOG2) як lightweight pre‑filter перед нейромережевою детекцією. Action Recognition: SlowFast, VideoMAE для класифікації дій. Важкі моделі — для production використовуємо ONNX export + TensorRT або офлайн обробку.

Як виміряти якість моделі розпізнавання образів у продакшені?

Моніторинг якості — ключовий елемент MLOps. Відстежуємо:

• розподіл prediction confidence;
• частку low‑confidence передбачень (індикатор OOD‑даних);
• дрейф вхідних зображень через feature distribution (embeddings з backbone).

Падіння середньої confidence з 0.87 до 0.71 за тиждень — ранній сигнал про distribution shift. NVIDIA Triton Inference Server рекомендує відстежувати ці метрики через Prometheus. Наші сертифіковані інженери налаштовують моніторинг і гарантують SLA по якості інференсу.

Деплой CV‑моделей

Для онлайн інференсу використовуємо Triton Inference Server (NVIDIA) — production‑стандарт для serving CV‑моделей. Підтримує TensorRT, ONNX, PyTorch, dynamic batching, multiple instances. REST та gRPC API. Гарантуємо стабільну роботу під навантаженням.

Edge deployment: ONNX Runtime на ARM/x86 CPU. TensorFlow Lite для мобільних пристроїв. OpenVINO для Intel CPU/GPU/VPU — дає 2–3× приріст швидкості на Intel залізі порівняно з ONNX Runtime. Після деплою передаємо модель з документацією та навчаємо персонал.

Що входить в роботу

Терміни та вартість

Прототип детектора на існуючих даних — 1–2 тижні. Production‑система з оптимізацією під цільове залізо — 4–8 тижнів. Повний цикл включаючи розмітку даних (1000–5000 зображень) — 2–4 місяці. Вартість розраховується індивідуально під кожну задачу. Ми на ринку більше 5 років, реалізували 60+ проектів з комп'ютерного зору. Оцінимо ваш проект під ключ — замовте консультацію, щоб отримати розрахунок та технічну пропозицію.