Парк з 10 000 розумних лічильників. Одна відмова — втрата даних за місяць. Візит техніка коштує в середньому 200 у.о., але 70% викликів виявляються хибними. Класичний підхід — планове ТО або реакція на збій — неефективний: або пропускаєте відмови, або витрачаєте ресурси даремно. Ми побудували ML-систему, яка передбачає відмови за 30 днів з точністю 88% (recall) і знижує позапланові простої на 30%. За 5 років реалізували понад 50 проєктів у сфері предиктивного обслуговування IoT — від промислових сенсорів до медичного обладнання. Система обробляє телеметрію в реальному часі, виявляє аномалії та генерує risk score для кожного пристрою. Алгоритм dispatch оптимально розподіляє ресурси, скорочуючи виїзди техніків на 40%.
Як AI вирішує проблему дисбалансу класів?
Відмови становлять 0.1–2% спостережень. Звичайна logistic regression дає recall < 30%. Ми використовуємо LightGBM з class_weight='balanced' та популяційне навчання: спочатку тренуємо загальну модель на всьому парку, потім fine-tune під конкретний пристрій. Це дає recall 88% навіть при рідкісних відмовах. Для LSTM RUL, де потрібно більше даних, застосовуємо аугментацію синтетичних відмов (SMOTE).
Як ми будуємо pipeline предиктивного обслуговування?
Device → MQTT Broker (EMQX) → Kafka → InfluxDB/TimescaleDB
↓
ML Pipeline (Kubeflow)
↓
Model Registry (MLflow)
↓
Triton Inference Server
Стек: MQTT для збору телеметрії, Kafka для буферизації, InfluxDB для зберігання часових рядів. ML-пайплайн на Kubeflow, експерименти логуємо в MLflow. Інференс через Triton Inference Server з ONNX Runtime. Для edge-пристроїв — quantized ONNX Runtime (зменшення розміру моделі в 4 рази при втраті точності <1%).
| Критерій |
LightGBM (binary) |
LSTM RUL |
| Точність прогнозу відмови |
88% recall |
82% recall |
| Час інференсу на CPU |
0.3 ms |
1.2 ms |
| Необхідні дані |
100+ відмов на тип |
500+ відмов, послідовності |
| Інтерпретованість |
SHAP, feature importance |
Attention weights |
LightGBM простіше впровадити (4 тижні). LSTM — для критичних систем, де важлива точність RUL.
Чому LightGBM виграє за швидкістю та інтерпретованістю?
Для задач з 0.1% відмов LightGBM дає стабільний recall 88% без складного тюнінгу. Інференс на CPU займає 0.3 мс — це дозволяє робити прогнози на кожному повідомленні телеметрії в реальному часі. На відміну від LSTM, LightGBM легко інтерпретувати через SHAP: ви бачите, які ознаки впливають на ризик відмови (температура, вібрація, кількість ребутів).
Як federated learning захищає дані?
Для медичних пристроїв з вимогами HIPAA/GDPR передавати сирі дані не можна. Federated learning навчає локальні моделі на кожному пристрої, передаючи лише оновлення ваг на центральний сервер. Це виключає витік приватних даних.
Процес роботи: від аудиту до моніторингу
| Етап |
Тривалість |
Результат |
| Discovery |
1–2 тижні |
Аудит парку, збір даних, визначення метрик (MAE RUL, ROC-AUC) |
| Data pipeline |
2–3 тижні |
MQTT → Kafka → InfluxDB, очищення, дедуплікація, уніфікація схем |
| Model training |
2–4 тижні |
Експерименти в MLflow, вибір моделі (LightGBM/LSTM), крос-валідація |
| Deployment |
1–2 тижні |
ONNX/Triton, Grafana dashboard з risk scores, OTA-механізм оновлення |
| Monitoring |
2 тижні |
Дрейф даних, alerting, автоматичне перенавчання при зміні розподілу |
Що входить у deliverables
- Документація архітектури та pipeline.
- Навчена модель у форматі ONNX або TorchScript.
- Дашборд Grafana: risk scores, історія інференсів, alerting.
- Репозиторій з кодом та конфігами для відтворення.
- Інструкція з OTA-оновлення моделі на пристроях.
- Дводенний workshop для вашої команди.
- Гарантія 6 місяців на продакшен-модель (підтримка та рефайн).
Терміни та вартість
Терміни — від 4 тижнів (базовий класифікатор) до 4 місяців (повноцінне LSTM + dispatch + OTA). Вартість розраховується індивідуально — залежить від кількості пристроїв, кількості типів та необхідної точності. Отримайте консультацію — ми надішлемо кошторис і timeline під ваш проєкт. Економія на обслуговуванні може становити десятки тисяч у.о. на рік на тисячу пристроїв. Замовте пілотний проєкт — ми розгорнемо MVP на вашому парку за 2 тижні.
Чому обирають нас?
Гарантія на продакшен-модель 6 місяців. Сертифікати MLOps (Kubeflow, MLflow). Досвід з LSTM та LightGBM у production. Середнє зниження позапланових простоїв — 30%.
Які проблеми прогнозування часових рядів зустрічаються найчастіше?
Фінансовий директор запитує прогнозування часових рядів продажів на квартал. Аналітик будує SARIMA, досягає MAPE 8.3% на тестовій вибірці — і з гордістю деплоїть. Через два місяці в production метрика падає до 23%. Причина класична: модель навчалася на даних до COVID, тестувалася на стабільному періоді, а production потрапив на промо-акцію та збій поставок. Data leakage + distribution shift = гарні цифри в ноутбуці та непрацюючий прогноз в реальності. Ми стикалися з цим десятки разів. Наш досвід — 5+ років у прогнозуванні часових рядів для рітейлу, фінтеху та IoT, більше 50 завершених проєктів.
Неправильна крос-валідація. Стандартний train_test_split для часових рядів — помилка. Випадкове розбиття створює data leakage: модель бачить «майбутні» значення в навчанні. Правильно — TimeSeriesSplit або walk-forward validation з expanding window.
Множинна сезонність. Погодинні дані споживання електроенергії мають три сезонності: добову (24 год), тижневу (168 год), річну (8760 год). SARIMA справляється лише з однією. Prophet обробляє кілька, але повільно масштабується на тисячі рядів.
Пропуски та аномалії в даних. Пропуск у сенсорних даних — це інформація (датчик відключився), а не просто NaN. Лінійна інтерполяція вбиває цей сигнал. Правильна обробка залежить від природи пропуску.
Cold start при ієрархічному прогнозуванні. Новий SKU в асортименті з 50 000 позицій: історичних даних немає, потрібен прогноз. Стандартні підходи тут не працюють — потрібні cross-learning підходи або feature-based методи.
Які інструменти і коли застосовувати?
Prophet (Meta) — чудовий старт для бізнес-даних із зрозумілою сезонністю та святами. Швидко налаштовується, інтерпретований, вбудована обробка викидів і пропусків. Падає в точності при нерегулярних патернах і не масштабується на десятки тисяч рядів без паралелізації. Prophet (Facebook) — офіційна документація.
Gradient boosting на фічах (LightGBM, XGBoost) — часто недооцінений підхід. Створюєте фічі вручну: лаги (t-1, t-7, t-28), ковзні середні, категоріальні ознаки (день тижня, місяць), екзогенні змінні. Модель навчається на всіх рядах одночасно — вирішує cold start через схожі ряди. MAPE на рітейл-прогнозуванні часто кращий за нейронні мережі при правильній feature engineering.
TFT (Temporal Fusion Transformer) — трансформер, спеціально розроблений для інтерпретованого прогнозування з коваріатами. Вбудовані механізми: variable selection (які ознаки важливі), temporal self-attention (які часові точки впливають на прогноз), квантильні передбачення. Доступний у pytorch-forecasting. Вимагає ~10 000+ записів на ряд для стабільного навчання. Temporal Fusion Transformer — академічна публікація.
PatchTST — трансформер, який ділить часовий ряд на патчі (аналогічно ViT для зображень). Краще захоплює локальні патерни, ніж класичні трансформери. Добре працює для long-horizon forecasting (прогноз на 96–720 кроків). Реалізація в neuralforecast від Nixtla.
N-HiTS, N-BEATS — нейронні архітектури без attention, швидші за TFT, конкурентна точність. N-BEATS виграє на M4/M5 benchmark для задач без коваріат.
| Метод |
Коваріати |
Масштаб (рядів) |
Інтерпретованість |
Складність |
| Prophet |
Так (регресори) |
До 10k |
Висока |
Низька |
| LightGBM + фічі |
Так |
100k+ |
Середня |
Середня |
| TFT |
Так |
1k–100k |
Висока |
Висока |
| PatchTST |
Ні/обмежено |
Будь-який |
Низька |
Середня |
| N-HiTS |
Ні |
Будь-який |
Низька |
Низька |
Як ми розгортаємо TFT в production?
TFT потребує ретельної підготовки даних. Типовий пайплайн через pytorch-forecasting:
training = TimeSeriesDataSet(
data,
time_idx="time_idx",
target="sales",
group_ids=["store", "sku"],
min_encoder_length=max_encoder_length // 2,
max_encoder_length=max_encoder_length, # 120 днів
min_prediction_length=1,
max_prediction_length=max_prediction_length, # 28 днів
static_categoricals=["store_type", "category"],
time_varying_known_reals=["price", "promo_flag"],
time_varying_unknown_reals=["sales"],
target_normalizer=GroupNormalizer(groups=["store", "sku"], transformation="softplus"),
)
Часта помилка: target_normalizer за замовчуванням (StandardScaler) ламає передбачення для рядів з нульовими значеннями (немає продажів у вихідні). GroupNormalizer з transformation="softplus" — правильний вибір для count-даних.
Покрокова інструкція з налаштування TFT
-
Збір та підготовка даних. Обробити пропуски (маркувати NaN, інтерполювати лише якщо це технічний збій), агрегувати до потрібної частоти, сформувати коваріати (свята, промо, ціни).
-
Створення
TimeSeriesDataSet. Вказати group_ids (наприклад, магазин+SKU), часовий індекс, горизонт прогнозу. Налаштувати target_normalizer з урахуванням розподілу таргета.
-
Навчання baseline. Спочатку Prophet або LightGBM — щоб зрозуміти, наскільки складніше завдання.
-
Тренування TFT. Запустити
TemporalFusionTransformer з loss=QuantileLoss(), підібрати learning rate та розміри hidden шарів. Використовувати pytorch_forecasting або neuralforecast.
-
Валідація та інтерпретація. Перевірити walk-forward, проаналізувати variable selection, побудувати attention heatmap.
Кейс: прогноз попиту в рітейлі. Мережа з 120 магазинів, 8000 SKU, горизонт прогнозу 28 днів. Вихідна система: SARIMA окремо для кожного ряду, MAPE 18.4%, повний цикл перенавчання — 6 годин. TFT на PyTorch + pytorch-forecasting: одна модель на всі ряди, MAPE 11.2%, перенавчання — 40 хв на A10G. Додатковий бонус: feature importance через variable selection — з'ясувалося, що day_before_holiday впливає сильніше, ніж сама дата свята. Середня економія бюджету на інференсі для клієнта склала значну суму.
Як правильно оцінювати якість прогнозів?
Не використовуйте RMSE як єдину метрику — вона сильно штрафує за великі помилки на великих значеннях. Наш набір метрик для рітейл-прогнозування:
-
MAPE — інтерпретована, але нестабільна при значеннях близьких до нуля
-
sMAPE — симетрична версія, уникає ділення на маленькі числа
-
MASE (Mean Absolute Scaled Error) — нормалізована відносно наївного сезонного прогнозу, чудово підходить для порівняння між рядами з різними масштабами
-
Quantile loss / Pinball loss — для ймовірнісного прогнозування, оцінка покриття інтервалів
| Метрика |
Коли використовувати |
Недолік |
| MAPE |
Бізнес-звітність, ряд без нулів |
Нестабільна при малих значеннях |
| sMAPE |
Порівняння моделей, нульові значення |
Асиметрична інтерпретація |
| MASE |
Різномаштабні ряди, бенчмарки |
Вимагає сезонного наївного прогнозу |
| Pinball loss |
Ймовірнісні моделі, управління запасами |
Багато метрик для різних квантилів |
Гарантуємо: ми надаємо model card з цими метриками на валідаційній вибірці та результати walk-forward тесту на історії не менше 6 місяців.
Що входить в роботу
- Документація щодо обраної архітектури, обґрунтування вибору гіперпараметрів.
- Відтворюваний пайплайн навчання та інференсу (Docker + CI/CD + Airflow/Prefect).
- Код з коментарями та модульними тестами на ключові компоненти.
- Навчання вашої команди: як перенавчати модель, як інтерпретувати виходи, як деплоїти нові версії.
- Підтримка протягом 3 місяців після здачі: консультації, виправлення багів, доналаштування.
Деталі пайплайну інференсу
Модель деплоїться через FastAPI або Triton Inference Server. Перенавчання запускається за розкладом (наприклад, раз на тиждень) через Airflow — з валідацією drift та автоматичним відкатом при погіршенні метрик.
Процес роботи
Починаємо з EDA: візуалізація, тест ADF на стаціонарність, STL-декомпозиція, аналіз пропусків та викидів. Це 2–3 дні, але часто виявляє системні проблеми даних, які блокують прогнозування.
Потім: baseline (наївний seasonal, Prophet), feature engineering для LGBM, вибір архітектури нейронної мережі якщо потрібно. Walk-forward validation з реалістичним горизонтом. Деплой через API з автоматичним перенавчанням за розкладом через Airflow або Prefect.
Строки орієнтовно: MVP-прогноз на одному типі даних — 3–6 тижнів. Ієрархічна система прогнозування з автоматизацією — 2–5 місяців. Вартість розраховується індивідуально.
Наша команда — сертифіковані ML-інженери (AWS ML Specialty, GCP Professional ML Engineer). За 5 років на ринку реалізували понад 50 проєктів з прогнозування. Зв'яжіться з нами для безкоштовного аналізу ваших даних — ми оцінимо завдання та дамо перші рекомендації за 1–2 дні. Замовте консультацію і переконайтеся, що ваші прогнози працюють в production, а не тільки в ноутбуці.