AI-прогнозування IoT-даних
Ми часто бачимо одну й ту саму біль: датчики на виробництві шумлять, дані рвуться, а стандартна SARIMA дає помилку 30%, бо не враховує спрацювання сусіднього обладнання. Клієнт хоче передбачати поломку компресора за годину, але current модель або надто важка для edge, або не ловить аномалії. Під ключ ми будуємо систему, яка закриває ці проблеми. За більш ніж 5 років ми впровадили прогнозні пайплайни на 50+ промислових об'єктах, обробляючи понад 10 000 сенсорів у реальному часі.
Чому стандартні моделі не підходять для IoT-прогнозу?
IoT-часові ряди мають специфіку: частота дискретизації — секунди/хвилини, шум датчиків, викиди (5σ і вище), довгі пропуски при збоях каналу, дрейф. Univariate моделі ігнорують взаємозв'язки — температура в цеху залежить від погоди, завантаження верстата та відчинених воріт. Багатовимірність вимагає feature engineering: lag-фічі, rolling-статистики, часові мітки.
Проблеми якості даних — головна причина, чому 60% proof-of-concept провалюються. Оцінюємо:
def assess_data_quality(ts_df): issues = {} issues['missing_rate'] = ts_df.isna().mean() z_scores = (ts_df - ts_df.mean()) / ts_df.std() issues['outlier_rate'] = (np.abs(z_scores) > 5).mean() issues['stuck_periods'] = detect_constant_windows(ts_df, min_duration=10) long_trend = np.polyfit(range(len(ts_df)), ts_df.fillna(method='ffill'), 1)[0] issues['drift_per_day'] = long_trend * 86400 / ts_df.index.freq.nanos * 1e9 return issues Як ми будуємо пайплайн передобробки?
- Інтерполяція коротких пропусків (<5 хв) — лінійна за часом.
- Forward fill довгих пропусків з флагом imputation (модель вчиться ігнорувати фіктивні значення).
- Адаптивна нормалізація: ковзне вікно 24 години компенсує дрейф і сезонність.
- Синтез ознак: lags [1, 5, 15, 60, 1440], rolling mean/std 5/15/60 хв, година/день/день_тижня.
LightGBM з такими фічами дає точність на 15-20% вище SARIMA на регулярних рядах і в 2 рази вище на шумних.
Вибір моделі залежно від ряду
| Модель | Найкраще підходить | Точність* | Час інференсу | Edge-ready |
|---|---|---|---|---|
| SARIMA | Ряди з сезонністю (енергія, температура) | 85-92% MAPE | 50 мкс | Так (C++) |
| LightGBM | Будь-які: шумні, багатовимірні | 90-95% | 100 мкс | Так (C API) |
| LSTM | Нелінійні патерни, довгі залежності | 92-97% | 1-5 мс | Так (INT8 ONNX) |
| Chronos/TimesFM | Рідкісні датчики, zero-shot | 75-85% | 10-50 мс | Ні (хмара) |
*MAPE при горизонті прогнозу 12 кроків (хвилин).
Які типові проблеми вирішує передобробка?
| Проблема | Метод | Вплив на точність |
|---|---|---|
| Пропуски <5 хв | Лінійна інтерполяція | ±2% |
| Пропуски >5 хв | Forward fill + флаг | ±5% |
| Дрейф датчика | Ковзна нормалізація (вікно 24 год) | +10-15% |
| Викиди (5σ+) | Кепінг перцентилями | +5-8% |
Як розгорнути модель на edge?
Edge-пристрої — ARM Cortex-A, 256 КБ RAM. Рішення:
- Навчаємо модель (PyTorch).
- Експортуємо в ONNX.
- Квантизуємо INT8 (зменшення розміру 4x, швидкість 2x).
- На пристрої — ONNX Runtime.
import onnxruntime as ort torch.onnx.export(model, dummy_input, 'forecaster_edge.onnx', opset_version=11) from onnxruntime.quantization import quantize_dynamic quantize_dynamic('forecaster_edge.onnx', 'forecaster_edge_quant.onnx') session = ort.InferenceSession('forecaster_edge_quant.onnx') forecast = session.run(None, {'input': recent_data})[0] Edge-прогноз рятує трафік: відправляємо в хмару тільки аномалії — економія 80-95%. Це особливо критично для віддалених об'єктів з лімітованим каналом. Замовте пілотний проєкт на 1 тиждень, щоб перевірити ефект на ваших даних.
Що ми робимо для 10 000+ датчиків?
- Hierarchical forecasting: групуємо за типом, локацією, системою → top-down reconciliation покращує стійкість.
- AutoML: StatsForecast паралельно підбирає SARIMA/ETS для тисяч рядів за хвилини.
- Online anomaly detection: ковзний z-score + residual-based (прогноз-факт).
Кейс з практики: для мережі насосних станцій ми впровадили ієрархічний LightGBM, який на 30% знизив false positive anomaly alerts порівняно з унітарними моделями.
Як виглядає процес роботи?
- Аналітика: аудит джерел (MQTT/Kafka), оцінка якості, підбір моделі.
- Проектування: архітектура пайплайну, схема даних, вибір стеку (MLflow, Weights & Biases).
- Реалізація: пайплайн передобробки → baseline LightGBM → ітерації (LSTM, edge).
- Тестування: A/B на історичних даних, p99 latency, reliability.
- Деплой: Docker + Kubernetes (хмара) або ONNX (edge) + Grafana дашборд.
Що входить в результат
- Пайплайн збору та передобробки (Python, Kafka, MQTT).
- Навчена модель (онлайн + batch).
- Grafana-дашборд з прогнозом та alerting.
- Код edge-інференсу (ONNX / C++).
- Документація (архітектура, API, інструкції).
- Навчання операторів (2-3 години).
Строки
- 4-5 тижнів: ingestion + передобробка + LightGBM baseline + дашборд.
- 3-4 місяці: повний цикл з LSTM, edge ONNX, streaming anomaly detection, AutoML для fleet.
Оцінюємо проєкт безкоштовно: пишіть — покажемо, як підійти до вашого кейсу. Зв'яжіться з нами, щоб обговорити ваш сценарій використання. Отримайте консультацію з вибору моделі. Сертифікація ISO 27001, понад 5 років досвіду — гарантуємо якість.
Додаткові матеріали: Вікіпедія: Прогнозування часових рядів.