AI-прогнозирование IoT-данных: от предобработки до edge

AI-прогнозирование IoT-данных

Мы часто видим одну и ту же боль: датчики на производстве шумят, данные рвутся, а стандартная SARIMA даёт ошибку 30%, потому что не учитывает срабатывание соседнего оборудования. Клиент хочет предсказывать поломку компрессора за час, но current модель либо слишком тяжела для edge, либо не ловит аномалии. Под ключ мы строим систему, которая закрывает эти проблемы. За более чем 5 лет мы внедрили прогнозные пайплайны на 50+ промышленных объектах, обрабатывая свыше 10 000 сенсоров в реальном времени.

Почему стандартные модели не подходят для IoT-прогноза?

IoT-временные ряды имеют специфику: частота дискретизации — секунды/минуты, шум датчиков, выбросы (5σ и выше), длинные пропуски при сбоях канала, дрейф. Univariate модели игнорируют взаимосвязи — температура в цехе зависит от погоды, загрузки станка и открытых ворот. Многомерность требует feature engineering: lag-фичи, rolling-статистики, временные метки.

Проблемы качества данных — главная причина, почему 60% proof-of-concept проваливаются. Оцениваем:

def assess_data_quality(ts_df):
    issues = {}
    issues['missing_rate'] = ts_df.isna().mean()
    z_scores = (ts_df - ts_df.mean()) / ts_df.std()
    issues['outlier_rate'] = (np.abs(z_scores) > 5).mean()
    issues['stuck_periods'] = detect_constant_windows(ts_df, min_duration=10)
    long_trend = np.polyfit(range(len(ts_df)), ts_df.fillna(method='ffill'), 1)[0]
    issues['drift_per_day'] = long_trend * 86400 / ts_df.index.freq.nanos * 1e9
    return issues

Как мы строим пайплайн предобработки?

1. Интерполяция коротких пропусков (<5 мин) — линейная по времени.
2. Forward fill длинных пропусков с флагом imputation (модель учится игнорировать фиктивные значения).
3. Адаптивная нормализация: скользящее окно 24 часа компенсирует дрейф и сезонность.
4. Синтез признаков: lags [1, 5, 15, 60, 1440], rolling mean/std 5/15/60 мин, час/день/день_недели.

LightGBM с такими фичами даёт точность на 15-20% выше SARIMA на регулярных рядах и в 2 раза выше на шумных.

Выбор модели в зависимости от ряда

*MAPE при горизонте прогноза 12 шагов (минут).

Какие типичные проблемы решает предобработка?

Как развернуть модель на edge?

Edge-устройства — ARM Cortex-A, 256 КБ RAM. Решение:

1. Обучаем модель (PyTorch).
2. Экспортируем в ONNX.
3. Квантизуем INT8 (уменьшение размера 4x, скорость 2x).
4. На устройстве — ONNX Runtime.

import onnxruntime as ort
torch.onnx.export(model, dummy_input, 'forecaster_edge.onnx', opset_version=11)
from onnxruntime.quantization import quantize_dynamic
quantize_dynamic('forecaster_edge.onnx', 'forecaster_edge_quant.onnx')
session = ort.InferenceSession('forecaster_edge_quant.onnx')
forecast = session.run(None, {'input': recent_data})[0]

Edge-прогноз спасает трафик: отправляем в облако только аномалии — экономия 80-95%. Это особенно критично для удалённых объектов с лимитированным каналом. Закажите пилотный проект на 1 неделю, чтобы проверить эффект на ваших данных.

Что мы делаем для 10 000+ датчиков?

• Hierarchical forecasting: группируем по типу, локации, системе → top-down reconciliation улучшает устойчивость.
• AutoML: StatsForecast параллельно подбирает SARIMA/ETS для тысяч рядов за минуты.
• Online anomaly detection: скользящий z-score + residual-based (прогноз-факт).

Кейс из практики: для сети насосных станций мы внедрили иерархический LightGBM, который на 30% снизил false positive anomaly alerts по сравнению с унитарными моделями.

Как выглядит процесс работы?

1. Аналитика: аудит источников (MQTT/Kafka), оценка качества, подбор модели.
2. Проектирование: архитектура пайплайна, схема данных, выбор стека (MLflow, Weights & Biases).
3. Реализация: пайплайн предобработки → baseline LightGBM → итерации (LSTM, edge).
4. Тестирование: A/B на исторических данных, p99 latency, reliability.
5. Деплой: Docker + Kubernetes (облако) или ONNX (edge) + Grafana дашборд.

Что входит в результат

• Пайплайн сбора и предобработки (Python, Kafka, MQTT).
• Обученная модель (онлайн + batch).
• Grafana-дашборд с прогнозом и alerting.
• Код edge-инференса (ONNX / C++).
• Документация (архитектура, API, инструкции).
• Обучение операторов (2-3 часа).

Сроки

• 4-5 недель: ingestion + предобработка + LightGBM baseline + дашборд.
• 3-4 месяца: полный цикл с LSTM, edge ONNX, streaming anomaly detection, AutoML для fleet.

Оцениваем проект бесплатно: пишите — покажем, как подойти к вашему кейсу. Свяжитесь с нами, чтобы обсудить ваш сценарий использования. Получите консультацию по выбору модели. Сертификация ISO 27001, более 5 лет опыта — гарантируем качество.

Дополнительные материалы: Wikipedia: Time series forecasting.

Какие проблемы прогнозирования временных рядов встречаются чаще всего?

Финансовый директор запрашивает прогнозирование временных рядов продаж на квартал. Аналитик строит SARIMA, добивается MAPE 8.3% на тестовой выборке — и с гордостью деплоит. Через два месяца в production метрика падает до 23%. Причина классическая: модель обучалась на данных до COVID, тестировалась на стабильном периоде, а production попал на промо-акцию и сбой поставок. Data leakage + distribution shift = красивые цифры в ноутбуке и неработающий прогноз в реальности. Мы сталкивались с этим десятки раз. Наш опыт — 5+ лет в прогнозировании временных рядов для ритейла, финтеха и IoT, более 50 завершённых проектов.

Неправильная кросс-валидация. Стандартный train_test_split для временных рядов — ошибка. Случайное разбиение создаёт data leakage: модель видит «будущие» значения в обучении. Правильно — TimeSeriesSplit или walk-forward validation с expanding window.

Множественная сезонность. Почасовые данные потребления электроэнергии имеют три сезонности: суточную (24 ч), недельную (168 ч), годовую (8760 ч). SARIMA справляется только с одной. Prophet обрабатывает несколько, но медленно масштабируется на тысячи рядов.

Пропуски и аномалии в данных. Пропуск в сенсорных данных — это информация (датчик отключился), а не просто NaN. Линейная интерполяция убивает этот сигнал. Правильная обработка зависит от природы пропуска.

Cold start при иерархическом прогнозировании. Новый SKU в ассортименте из 50 000 позиций: исторических данных нет, нужен прогноз. Стандартные подходы тут не работают — нужны cross-learning подходы или feature-based методы.

Какие инструменты и когда применять?

Prophet (Meta) — отличный старт для бизнес-данных с понятной сезонностью и праздниками. Быстро настраивается, интерпретируем, встроенная обработка выбросов и пропусков. Падает в точности при нерегулярных паттернах и не масштабируется на десятки тысяч рядов без параллелизации. Prophet (Facebook) — официальная документация.

Gradient boosting на фичах (LightGBM, XGBoost) — часто недооценённый подход. Создаёте фичи вручную: лаги (t-1, t-7, t-28), скользящие средние, категориальные признаки (день недели, месяц), экзогенные переменные. Модель обучается на всех рядах одновременно — решает cold start через похожие ряды. MAPE на ритейл-прогнозировании часто лучше нейронных сетей при правильной feature engineering.

TFT (Temporal Fusion Transformer) — трансформер, специально разработанный для интерпретируемого прогнозирования с ковариатами. Встроенные механизмы: variable selection (какие признаки важны), temporal self-attention (какие временные точки влияют на прогноз), квантильные предсказания. Доступен в pytorch-forecasting. Требует ~10 000+ записей на ряд для стабильного обучения. Temporal Fusion Transformer — академическая публикация.

PatchTST — трансформер, который делит временной ряд на патчи (аналогично ViT для изображений). Лучше захватывает локальные паттерны, чем классические трансформеры. Хорошо работает для long-horizon forecasting (прогноз на 96–720 шагов). Реализация в neuralforecast от Nixtla.

N-HiTS, N-BEATS — нейронные архитектуры без attention, быстрее TFT, конкурентная точность. N-BEATS выигрывает на M4/M5 benchmark для задач без ковариат.

Как мы разворачиваем TFT в production?

TFT требует тщательной подготовки данных. Типичный пайплайн через pytorch-forecasting:

training = TimeSeriesDataSet(
    data,
    time_idx="time_idx",
    target="sales",
    group_ids=["store", "sku"],
    min_encoder_length=max_encoder_length // 2,
    max_encoder_length=max_encoder_length,  # 120 дней
    min_prediction_length=1,
    max_prediction_length=max_prediction_length,  # 28 дней
    static_categoricals=["store_type", "category"],
    time_varying_known_reals=["price", "promo_flag"],
    time_varying_unknown_reals=["sales"],
    target_normalizer=GroupNormalizer(groups=["store", "sku"], transformation="softplus"),
)

Частая ошибка: target_normalizer по умолчанию (StandardScaler) ломает предсказания для рядов с нулевыми значениями (нет продаж в выходные). GroupNormalizer с transformation="softplus" — правильный выбор для count-данных.

Пошаговая инструкция по настройке TFT

1. Сбор и подготовка данных. Обработать пропуски (маркировать NaN, интерполировать только если это технический сбой), агрегировать до нужной частоты, сформировать ковариаты (праздники, промо, цены).
2. Создание TimeSeriesDataSet. Указать group_ids (например, магазин+SKU), временной индекс, горизонт прогноза. Настроить target_normalizer с учётом распределения таргета.
3. Обучение baseline. Сначала Prophet или LightGBM — чтобы понять, насколько сложнее задача.
4. Тренировка TFT. Запустить TemporalFusionTransformer с loss=QuantileLoss(), подобрать learning rate и размеры hidden слоёв. Использовать pytorch_forecasting или neuralforecast.
5. Валидация и интерпретация. Проверить walk-forward, проанализировать variable selection, построить attention heatmap.

Кейс: прогноз спроса в ритейле. Сеть из 120 магазинов, 8000 SKU, горизонт прогноза 28 дней. Исходная система: SARIMA отдельно для каждого ряда, MAPE 18.4%, полный цикл переобучения — 6 часов. TFT на PyTorch + pytorch-forecasting: одна модель на все ряды, MAPE 11.2%, переобучение — 40 мин на A10G. Дополнительный бонус: feature importance через variable selection — выяснилось, что day_before_holiday влияет сильнее, чем сама дата праздника. Средняя экономия бюджета на инференсе для клиента составила 1.5 млн ₽ в год.

Как правильно оценивать качество прогнозов?

Не используйте RMSE как единственную метрику — она сильно штрафует за большие ошибки на больших значениях. Наш набор метрик для ритейл-прогнозирования:

• MAPE — интерпретируема, но нестабильна при значениях близких к нулю
• sMAPE — симметричная версия, избегает деления на маленькие числа
• MASE (Mean Absolute Scaled Error) — нормализован относительно наивного сезонного прогноза, отлично подходит для сравнения между рядами с разными масштабами
• Quantile loss / Pinball loss — для вероятностного прогнозирования, оценка покрытия интервалов

Гарантируем: мы предоставляем model card с этими метриками на валидационной выборке и результаты walk-forward теста на истории не менее 6 месяцев.

Что входит в работу

• Документация по выбранной архитектуре, обоснование выбора гиперпараметров.
• Воспроизводимый пайплайн обучения и инференса (Docker + CI/CD + Airflow/Prefect).
• Код с комментариями и модульными тестами на ключевые компоненты.
• Обучение вашей команды: как переобучать модель, как интерпретировать выходы, как деплоить новые версии.
• Поддержка в течение 3 месяцев после сдачи: консультации, фиксы багов, донастройка.

Процесс работы

Начинаем с EDA: визуализация, тест ADF на стационарность, STL-декомпозиция, анализ пропусков и выбросов. Это 2–3 дня, но часто выявляет системные проблемы данных, которые блокируют прогнозирование.

Затем: baseline (наивный seasonal, Prophet), feature engineering для LGBM, выбор архитектуры нейронной сети если нужно. Walk-forward validation с реалистичным горизонтом. Деплой через API с автоматическим переобучением по расписанию через Airflow или Prefect.

Сроки ориентировочно: MVP-прогноз на одном типе данных — 3–6 недель. Иерархическая система прогнозирования с автоматизацией — 2–5 месяцев. Стоимость рассчитывается индивидуально.

Наша команда — сертифицированные ML-инженеры (AWS ML Specialty, GCP Professional ML Engineer). За 5 лет на рынке реализовали более 50 проектов по прогнозированию. Свяжитесь с нами для бесплатного анализа ваших данных — мы оценим задачу и дадим первые рекомендации за 1–2 дня. Закажите консультацию и убедитесь, что ваши прогнозы работают в production, а не только в ноутбуке.