Разработка AI-системы детекции присутствия людей в опасных зонах

На производстве с роботами-манипуляторами, штамповочными прессами и высоковольтным оборудованием каждый инцидент с персоналом — это риск травмы, остановка линии и штрафы. Стандартные системы видеоаналитики дают много ложных срабатываний: тень, проезжающая тележка, отражение в стекле — всё это вызывает ложную тревогу. По данным статистики, более 30% несчастных случаев на производстве связаны с нахождением людей в опасных зонах. Мы разрабатываем AI-системы компьютерного зрения, которые отслеживают не просто пересечение bbox с зоной, а геопространственное положение ключевых точек тела — ног и бёдер. Это снижает false alarm rate до 5% и позволяет реагировать за 100 мс. Система работает под ключ: от калибровки камеры до интеграции с PLC/SCADA и сертификации SIL.

Проблема: стандартная детекция bbox не подходит

Стандартная ошибка — детектируем человека и проверяем его bounding box на пересечение с polygon зоны. Проблема: человек стоит у границы зоны, bbox пересекается с зоной на 10% — тревога? Правильно: отслеживаем конкретные точки тела (ноги) в зоне, а не весь bbox. Используем pose estimation (YOLOv8-pose) и Shapely для точной проверки.

import cv2
import numpy as np
from shapely.geometry import Point, Polygon
from ultralytics import YOLO
from collections import defaultdict

class DangerZoneMonitor:
    """
    Мониторинг опасных зон через:
    1. Pose estimation → ключевые точки (ноги, руки)
    2. Проверка точек в зонах через Shapely
    3. Трекинг персон для снижения false positives
    """
    def __init__(
        self,
        model_path: str = 'yolov8m-pose.pt',
        danger_zones: list[dict] = None,
        # Список зон: [{'id': 'zone_1', 'polygon': [(x1,y1), ...], 'severity': 'critical'}]
        min_frames_before_alert: int = 3   # 3 кадра подряд = настоящее нарушение
    ):
        self.model = YOLO(model_path)
        self.zones = [
            {
                'id': z['id'],
                'polygon': Polygon(z['polygon']),
                'severity': z.get('severity', 'high'),
                'check_points': z.get('check_points', 'feet')  # 'feet' | 'any' | 'center'
            }
            for z in (danger_zones or [])
        ]
        self.min_frames = min_frames_before_alert
        self.violation_counters: dict = defaultdict(int)  # person_track_id → consecutive frames

    def process_frame(
        self, frame: np.ndarray
    ) -> dict:
        """
        Возвращает {'violations': [...], 'annotated_frame': np.ndarray}
        """
        # YOLOv8-pose: детекция + позиция + трекинг
        results = self.model.track(
            frame,
            persist=True,     # ByteTrack трекинг
            conf=0.4,
            verbose=False
        )[0]

        active_track_ids = set()
        violations = []

        if results.keypoints is not None and results.boxes.id is not None:
            keypoints = results.keypoints.xy.cpu().numpy()    # (N, 17, 2)
            confidences = results.keypoints.conf.cpu().numpy() # (N, 17)
            track_ids = results.boxes.id.cpu().numpy().astype(int)

            for i, (kpts, confs, track_id) in enumerate(
                zip(keypoints, confidences, track_ids)
            ):
                active_track_ids.add(track_id)
                check_points = self._get_check_points(kpts, confs)

                for zone in self.zones:
                    in_zone = any(
                        confs[idx] > 0.5 and
                        zone['polygon'].contains(Point(kpts[idx]))
                        for idx in check_points
                    )

                    if in_zone:
                        self.violation_counters[track_id] += 1
                        if self.violation_counters[track_id] >= self.min_frames:
                            violations.append({
                                'track_id': int(track_id),
                                'zone_id': zone['id'],
                                'severity': zone['severity'],
                                'consecutive_frames': self.violation_counters[track_id],
                                'person_bbox': results.boxes.xyxy[i].cpu().numpy().tolist()
                            })
                    else:
                        self.violation_counters[track_id] = 0

        # Сбрасываем счётчики для исчезнувших персон
        for track_id in list(self.violation_counters.keys()):
            if track_id not in active_track_ids:
                del self.violation_counters[track_id]

        annotated = self._annotate_frame(frame, violations, results)
        return {'violations': violations, 'annotated_frame': annotated}

    def _get_check_points(
        self, keypoints: np.ndarray, confidences: np.ndarray
    ) -> list[int]:
        """
        COCO keypoints: 0=нос, 1-4=глаза/уши, 5-6=плечи, 7-8=локти,
        9-10=запястья, 11-12=бёдра, 13-14=колени, 15-16=щиколотки
        Ноги = индексы 15, 16 (щиколотки)
        """
        feet_indices = [15, 16]
        # Если ноги не детектированы → используем бёдра как fallback
        feet_detected = any(confidences[i] > 0.5 for i in feet_indices)
        if feet_detected:
            return feet_indices
        return [11, 12]  # бёдра как запасные точки

    def _annotate_frame(
        self, frame: np.ndarray, violations: list, results
    ) -> np.ndarray:
        annotated = frame.copy()

        # Рисуем зоны
        for zone in self.zones:
            pts = np.array(list(zone['polygon'].exterior.coords), dtype=np.int32)
            color = (0, 0, 255) if any(
                v['zone_id'] == zone['id'] for v in violations
            ) else (0, 255, 0)
            cv2.polylines(annotated, [pts], True, color, 2)
            cv2.fillPoly(
                annotated,
                [pts],
                tuple(int(c * 0.2) for c in color)
            )

        # Рисуем нарушителей
        for v in violations:
            bbox = list(map(int, v['person_bbox']))
            cv2.rectangle(
                annotated,
                (bbox[0], bbox[1]), (bbox[2], bbox[3]),
                (0, 0, 255), 3
            )
            cv2.putText(
                annotated,
                f"VIOLATION: {v['zone_id']}",
                (bbox[0], bbox[1] - 10),
                cv2.FONT_HERSHEY_SIMPLEX, 0.8,
                (0, 0, 255), 2
            )

        return annotated

Почему геопространственная проверка точнее детекции bbox?

При детекции bbox человек может стоять вплотную к зоне, но его ноги уже внутри — система обязана среагировать. Мы используем pose estimation и проверяем попадание щиколоток (или бёдер как fallback) в polygon зоны. Это даёт Recall по вторжениям >95% при False Alarm Rate <5%. Для зон с критической опасностью (прессы, роботы) настраиваем пороги до 99% recall ценой небольшого роста ложных срабатываний.

Как интегрировать систему с существующим PLC/SCADA?

Система поддерживает Modbus TCP, OPC-UA и GPIO. При обнаружении нарушения отправляем сигнал Emergency Stop за 50–100 мс. Для критических применений предусмотрен hardware override — реле, размыкающее цепь безопасности. Интеграция занимает 2–3 недели после калибровки камер.

Калибровка камеры для точных координат

Если зоны заданы в метрах (требования охраны труда), необходима перспективная трансформация. Приводим код калибратора.

import cv2
import numpy as np

class ZoneCameraCalibrator:
    """
    Перспективная трансформация: пиксельные координаты → реальные (метры).
    Необходима для зон, заданных в метрах (требования ОТ).
    """
    def __init__(
        self,
        reference_points_px: list,    # 4 точки в пикселях (на изображении)
        reference_points_world: list  # 4 точки в метрах (реальные координаты)
    ):
        src = np.float32(reference_points_px)
        dst = np.float32(reference_points_world)
        self.H = cv2.getPerspectiveTransform(src, dst)

    def pixel_to_world(self, px: tuple) -> tuple:
        """(x_px, y_px) → (x_meters, y_meters)"""
        pt = np.float32([[[px[0], px[1]]]])
        world = cv2.perspectiveTransform(pt, self.H)
        return float(world[0][0][0]), float(world[0][0][1])

    def world_to_pixel(self, world: tuple) -> tuple:
        """(x_meters, y_meters) → (x_px, y_px)"""
        H_inv = np.linalg.inv(self.H)
        pt = np.float32([[[world[0], world[1]]]])
        px = cv2.perspectiveTransform(pt, H_inv)
        return int(px[0][0][0]), int(px[0][0][1])

Latency и параметры системы

Сравнение моделей: YOLOv8 vs RT-DETR

YOLOv8 выдаёт 35–45 FPS на RTX 3060, что в 2 раза быстрее RT-DETR (18–25 FPS). RT-DETR точнее (AP 0.94 vs 0.90), но для систем с более чем 4 камерами скорость критична. Для одной-двух камер выбираем RT-DETR. В обоих случаях inference latency ниже 30 мс на GPU. Если у вас <4 камер и высокая точность важнее — RT-DETR. Если 8+ камер или ограниченный GPU — YOLOv8. YOLOv8-pose также даёт ключевые точки, что критично для нашей геопространственной проверки.

Что входит в работу

• Обследование объекта: расстановка камер, определение опасных зон, сбор референсных кадров.
• Калибровка камер: привязка пиксельных координат к реальным метрам.
• Обучение/дообучение модели: адаптация под специфику производства (пыль, освещение).
• Разработка бэкенда: FastAPI, интеграция с PLC через Modbus/OPC-UA, логирование нарушений.
• Веб-дашборд: реальное время, алерты, история, статистика.
• Тестирование: A/B-тест на одной камере, измерение Recall и False Alarm Rate.
• Документация и обучение персонала.
• Пост-релизная поддержка: 6 месяцев мониторинга и доработок.

Сроки

Наш опыт

Более 7 лет разрабатываем системы компьютерного зрения для промышленности. Реализовали 50+ проектов по безопасности персонала: от детекции в зоне пресса до мониторинга периметра склада. Среднее снижение ложных тревог — 80% после внедрения нашей геопространственной логики. Средняя экономия на штрафах и простоях — до 2 000 000 руб. в год. Свяжитесь с нами для бесплатной оценки вашего проекта. Закажите пилотное внедрение на одной камере — результат за 2 недели.

Как distribution shift убивает метрики CV-модели в промышленности

На производстве ставят камеру, контролируют качество продукции. Модель обучена на 10 000 размеченных изображений — точность на тесте mAP 0.84. Запускают в продакшен — и в первую же неделю пропускают 30 % дефектов. Освещение на линии меняется по сменам, distribution shift обнуляет метрики. Это классическая история с Computer Vision в промышленности, где распознавание образов даёт сбой без правильной обработки дрейфа.

Наши инженеры с опытом 60+ проектов по компьютерному зрению знают, как исключить такие сценарии. Гарантируем стабильную работу модели под реальными условиями.

Детекция объектов: YOLO, RT‑DETR и всё что между ними

YOLO — стандарт для real‑time детекции. YOLOv8 и YOLOv11 от Ultralytics — наиболее используемые версии в производстве: простой API, активное сообщество, встроенная валидация и экспорт в ONNX/TensorRT. Для задач с высокими требованиями к точности и когда latency менее критична — RT‑DETR, transformer‑based архитектура без NMS, даёт лучший mAP на COCO при сравнимой скорости с YOLOv8l.

Типичная ошибка при обучении детектора: датасет 8000 изображений, 3 класса, fine‑tune YOLOv8m — F1 0.73 на валидации. Смотрим confusion matrix — один класс почти никогда не детектируется. Причина: дисбаланс 1:23. Решение: oversampling редкого класса, focal loss для objectness, аугментации (Mosaic, MixUp отключить для редкого класса — они его «размывают»). Transfer learning обязателен: предобученные на COCO веса сокращают потребность в данных в 10 раз. Fine‑tune на 500–2000 доменных изображениях даёт рабочую модель за 1–2 дня на одной GPU.

Для edge deployment: экспорт в ONNX → TensorRT engine. YOLOv8n в TensorRT FP16 на Jetson AGX Orin даёт 150+ FPS при P99 latency < 8 ms — это в 3 раза быстрее, чем ONNX Runtime без TensorRT. На сервере A10G: 700+ FPS для YOLOv8n в TensorRT INT8.

Как fine‑tuning YOLO помогает в распознавании образов?

Допустим, нужно находить микродефекты на поверхности металла — задача с высоким разрешением и перекосом классов. Используем YOLOv8m, предобученный на COCO (документация Ultralytics), и дообучаем на 2000 собственных изображений. Применяем аугментации Mosaic, MixUp, random perspective. После 200 эпох mAP 0.5 достигает 0.93. Ключевые приёмы:

• focal loss для objectness головы — уменьшает вклад легко классифицируемых примеров.
• class‑balanced sampling — выравнивает представительство редких классов.
• Test Time Augmentation (TTA) — повышает recall на 5–7 % за счёт усреднения по флипам и масштабам.

Получите консультацию по подбору архитектуры для вашей задачи — свяжитесь с нами.

Сегментация: SAM, Mask R‑CNN и instance segmentation

SAM (Segment Anything Model) от Meta изменил подход к сегментации. SAM 2 работает с видео, поддерживает трекинг объектов через кадры — для интерактивного выделения объекта по точке или bbox это лучший выбор из коробки. Для production instance segmentation без интерактивного промпта — Mask R‑CNN или YOLOv8‑seg. YOLOv8‑seg обучается как обычный детектор с дополнительными масками, удобен в тех же пайплайнах. Семантическая сегментация (каждый пиксель — класс) — SegFormer, DeepLabV3+. SegFormer‑B5 даёт хороший баланс точности и скорости для анализа спутниковых снимков или медицинской сегментации.

Кейс: сегментация клеток на микроскопических изображениях. Датасет 400 изображений с ручной разметкой. Обучение Mask R‑CNN на ResNet‑50 backbone дало IoU 0.61 — плохо. Проблема: объекты (клетки) перекрываются, стандартный NMS убивает перекрывающиеся предсказания. Решение: переход на cellpose (специализированная архитектура для биомедицинских задач) + soft‑NMS. IoU вырос до 0.79.

OCR: когда Tesseract не справляется

Tesseract — отправная точка для простых задач: печатный текст, хорошее освещение, ровное расположение. Как только появляются рукописные элементы, нестандартные шрифты, перспективные искажения или многоколоночный макет — Tesseract деградирует быстро.

PaddleOCR — production‑grade решение: обнаружение текстовых блоков + распознавание + структурный анализ. Работает из коробки для 80+ языков, включая русский. Поддерживает таблицы и документы со сложной структурой. Wikipedia: Оптическое распознавание символов. TrOCR (Microsoft) — трансформерный OCR с сильными результатами на рукописном тексте. Для русского рукописного текста нужен fine‑tuning: базовая модель обучена преимущественно на латинице.

Что делать, если Tesseract не справляется с распознаванием образов на документах?

Для задач «извлеки данные из счёта / договора / паспорта» используем LayoutLMv3 или Donut — эти модели понимают layout документа, а не только текст. Интеграция через Hugging Face Transformers, fine‑tuning на 200–500 размеченных документах. Типичный pipeline:

1. Preprocessing: deskew, denoising, binarization через OpenCV.
2. Обнаружение текстовых блоков: PaddleOCR detection или CRAFT.
3. Распознавание: PaddleOCR recognition или TrOCR.
4. Post‑processing: нормализация, валидация через regex или LLM для структурированных полей.

Для документов с фиксированной структурой template matching + OCR точечно по координатам зачастую надёжнее end‑to‑end решения.

Face Recognition: идентификация и верификация

Face recognition = detection + alignment + embedding + matching. Каждый этап важен.

Detection: RetinaFace или InsightFace для точной локализации лица и ключевых точек. MTCNN — более старое, но надёжное решение. Embedding: ArcFace (InsightFace) — state‑of‑the‑art для face recognition embeddings. Модели iresnet50/iresnet100 предобучены на MS1MV3 (5M идентичностей). Эмбеддинг‑вектор 512 float32, сравнение по cosine similarity. Threshold tuning: порог решения — критический параметр. При threshold 0.6 типичный FPR на LFW benchmark — 0.001, TPR — 0.985. В production threshold нужно калибровать под реальный distribution: люди в масках, с изменившейся внешностью, в разных условиях освещения. Liveness detection обязателен: MiniFASNet — lightweight модель на CPU, FaceX‑Zoo содержит несколько предобученных liveness‑детекторов.

Видеоаналитика

Видео — последовательность кадров плюс временное измерение. Наивный подход — детектировать на каждом кадре — дорого.

Трекинг: ByteTrack и BoT‑SORT — стандарт для multi‑object tracking. Работают поверх любого детектора, добавляют persistent ID объектам между кадрами — это даёт подсчёт объектов, треки движения, velocity.

Оптимизация: не нужно обрабатывать каждый кадр. Для статичных сцен детекция на каждом 5–10 кадре, между ними — трекер. Для детекции событий (человек вошёл в зону) background subtraction (OpenCV MOG2) как lightweight pre‑filter перед нейросетевой детекцией. Action Recognition: SlowFast, VideoMAE для классификации действий. Тяжёлые модели — для production используем ONNX export + TensorRT либо оффлайн обработку.

Как измерить качество модели распознавания образов в продакшене?

Мониторинг качества — ключевой элемент MLOps. Отслеживаем:

• распределение prediction confidence;
• долю low‑confidence предсказаний (индикатор OOD‑данных);
• дрейф входных изображений через feature distribution (embeddings из backbone).

Падение средней confidence с 0.87 до 0.71 за неделю — ранний сигнал о distribution shift. NVIDIA Triton Inference Server рекомендует отслеживать эти метрики через Prometheus. Наши сертифицированные инженеры настраивают мониторинг и гарантируют SLA по качеству инференса.

Деплой CV‑моделей

Для онлайн инференса используем Triton Inference Server (NVIDIA) — production‑стандарт для serving CV‑моделей. Поддерживает TensorRT, ONNX, PyTorch, dynamic batching, multiple instances. REST и gRPC API. Гарантируем стабильную работу под нагрузкой.

Edge deployment: ONNX Runtime на ARM/x86 CPU. TensorFlow Lite для мобильных устройств. OpenVINO для Intel CPU/GPU/VPU — даёт 2–3× прирост скорости на Intel железе по сравнению с ONNX Runtime. После деплоя передаём модель с документацией и обучаем персонал.

Что входит в работу

Сроки и стоимость

Прототип детектора на существующих данных — 1–2 недели. Production‑система с оптимизацией под целевое железо — 4–8 недель. Полный цикл включая разметку данных (1000–5000 изображений) — 2–4 месяца. Стоимость рассчитывается индивидуально под каждую задачу. Примерная экономия от внедрения системы контроля качества — до 1 млн рублей в месяц на одном производственном участке.

Мы на рынке более 5 лет, реализовали 60+ проектов по компьютерному зрению. Оценим ваш проект под ключ — закажите консультацию, чтобы получить расчёт и техническое предложение.