AI-прогнозування терміну придатності харчових продуктів

AI-система прогнозування термінів придатності

Уявіть: ви отримуєте партію охолодженого лосося, але при прийманні з'ясовується, що температура в вантажівці перевищувала 7°C протягом 6 годин. Статична дата на упаковці стверджує, що термін — 10 днів, але ми знаємо: реальний залишковий термін скоротився на 40%. Списання такої партії — чистий збиток. Наші ML-моделі, засновані на принципі TTT (Time-Temperature-Tolerance), вирішують цю проблему: вони аналізують історію кожного продукту та динамічно перераховують термін придатності. Управління термінами придатності — завдання, де точність прогнозу безпосередньо конвертується в гроші. Списання продукції коштують виробникам 5–15% виручки. ML-моделі, що враховують умови зберігання, транспортну історію та біохімічні маркери, знижують списання на 30–50%. Замовте пілотний проект — ми оцінимо потенціал економії для вашого виробництва.

Як статичні терміни придатності застаріли?

Статична дата на упаковці — worst-case для найгірших умов зберігання. В реальності продукт може зберігатися в ідеальних умовах або, навпаки, пережити температурний ексцес. Розумна система розраховує індивідуальний термін за реальною історією:

• Продукт зберігався при строгих 2–4 °C → ще 3 дні після номінального терміну.
• Температурний ексцес при транспортуванні → залишковий термін скорочено на 40%. Це економить мільйони гривень за рахунок зниження списань та запобігання продажу зіпсованого товару (харчовий ризик). Принцип TTT лягає в основу всіх розрахунків.

Як ML-моделі враховують умови зберігання?

Фізико-хімічні процеси:

• Окислення жирів: швидкість пропорційна температурі та концентрації O₂.
• Мікробіологічний ріст: модель Arrhenius — швидкість зростає експоненційно з температурою.
• Втрата вологи: впливає на текстуру та активність води (aW).
• Реакція Майяра: хімічна деградація при нагріванні (випічка, сухі продукти).

Ключовий принцип — TTT (Time-Temperature-Tolerance):

def effective_shelf_life(temp_history, q10=2.0, reference_temp=4.0):
    """
    Q10 model: кожні 10°C подвоюють швидкість псування
    Ефективний час = Σ dt × (Q10)^((T-Tref)/10)
    """
    effective_age = 0
    for temp, duration_hours in temp_history:
        acceleration = q10 ** ((temp - reference_temp) / 10.0)
        effective_age += duration_hours * acceleration
    return effective_age  # години ефективного старіння

Приклад: продукт зберігався 2 години при 14°C (Q10=2, ref=4°C). Ефективне старіння = 2 * 2^((14-4)/10) = 2 * 2^1 = 4 години. Тобто за 2 години реального часу продукт «постарів» на 4 години.

Сенсори та IoT-дані:

features = {
    'mean_temp_24h': rolling_mean(temp, 24),
    'max_temp_transport': max(temp_during_transport),
    'temp_exceedance_hours': hours_above_threshold(temp, 7.0),  # години вище 7°C
    'humidity_avg': mean(humidity),
    'initial_microbial_count': lab_cfu_per_g,
    'packaging_type': one_hot(['MAP', 'vacuum', 'air']),
    'days_since_production': calendar_age,
    'effective_age_hours': q10_model_output
}

Регресія на сенсорні дані:

• Цільова змінна: дні до псування (з лабораторних випробувань).
• Фічі: історія температур, вологість, Gas Headspace, initial microbial load.
• Моделі: GradientBoosting — найкращий baseline (точніший за LSTM на 15% для коротких ланцюгів постачання), LSTM для продуктів з безперервною температурною історією.

Що входить в роботу?

В рамках проекту ми надаємо:

• Розробку Q10/ML-моделі, каліброваної під ваші категорії продуктів.
• Інтеграцію з температурними логерами (RFID/NFC) та WMS (API).
• Дашборд моніторингу залишкового терміну зі сповіщеннями.
• Модуль динамічного уцінювання (price optimization).
• Документацію з валідації для HACCP та FDA.
• Навчання персоналу та підтримку протягом 1 року.

Як відбувається інтеграція в ланцюг постачання?

RFID/NFC-мітки з температурним логером:

• TempTale, Emerson, Sensitech — чипи, що записують температуру кожні 5 хвилин.
• При прийманні товару: сканування → автоматичний розрахунок залишкового терміну.
• Сортування в залі: ближче до закінчення → ближче до покупця (FIFO+ML).

WMS-інтеграція: Система управління складом отримує залишковий термін придатності для кожного палета/одиниці. Алгоритм розміщення пріоритизує продукцію з меншим залишковим терміном для відвантаження.

Динамічне уцінювання:

def markdown_schedule(remaining_shelf_life_days, nominal_shelf_life, base_price):
    """
    За 20% терміну до закінчення — починаємо знижки
    Лінійна шкала: -5% → -30% у міру наближення до дати
    """
    remaining_pct = remaining_shelf_life_days / nominal_shelf_life
    if remaining_pct < 0.2:
        discount = 0.05 + (0.2 - remaining_pct) / 0.2 * 0.25
        return base_price * (1 - discount)
    return base_price

Категорії продукції

Охолоджене м'ясо та риба: Основна група ризику. Q10 ≈ 2–3. Ефективна температурна історія критична. Інтеграція з датчиками на вантажівках і холодильних камерах обов'язкова.

Молочні продукти: Пастеризація → початковий microbial load відомий. Прогнозування будується на температурних даних + тест на кислотність (pH-дрейф).

Свіжі овочі та фрукти: Етиленове дозрівання, втрата вологи. Додаткові фічі: сорт, регіон походження, обробка після збору (1-MCP).

Хлібобулочні вироби: Пліснява — основний ризик. aW (water activity) > 0.85 → ризик. Сенсори активності води + CO₂-емісія як проксі.

Оцінка якості

Валідаційний протокол:

• Accelerated shelf-life testing (ASLT): зберігання при підвищеній температурі з заданим Q10 → скорочує термін випробувань.
• Незалежна тест-вибірка: продукція з різних партій, регіонів, сезонів.
• MAPE по залишковому терміну: цільовий показник < 15%.

Лабораторна верифікація: Мінімум 5% партій проходять реальний challenge-тест для валідації моделі. При відхиленні прогнозу > 20% → автоматичний перегляд параметрів Q10 для даної категорії.

Логи температурної історії повинні бути захищені від редагування — для цього використовуються blockchain-відмітки часу або сертифіковані логери з tamper-evident seal.

Регуляторний контекст

HACCP та ISO 22000: Прогнозна система не замінює, а доповнює HACCP-план. Результати моделі — документоване обґрунтування терміну придатності при подачі на реєстрацію.

Q10 temperature coefficient широко застосовується в харчовій промисловості для оцінки прискорення псування.

FDA 21 CFR Part 11 / ЄАЕС ТР: Логи температурної історії повинні бути захищені від редагування. Blockchain-відмітки часу або certified logger з tamper-evident seal.

Наш досвід та гарантії

Ми впроваджуємо AI-рішення в food-індустрії понад 5 років і виконали понад 20 проектів з прогнозування термінів придатності для російських та міжнародних виробників. Середня економія клієнтів — суттєве зниження списань. Реальні кейси: для м'ясопереробного заводу списання знизилися на 40%, що дало значну економію. Надаємо гарантію якості на модель: MAPE < 15% протягом першого року експлуатації. Оцініть ваш потенціал економії — зв'яжіться з нами для пілотного проекту. Отримайте консультацію за вашими даними.

Терміни: базова Q10-модель + інтеграція з температурними логерами + WMS API — 4–5 тижнів. ML-прогнозування за категоріями продукції + динамічне уцінювання + повний ланцюг IoT → склад → магазин — 3–4 місяці. Вартість розраховується індивідуально і залежить від обсягу даних, кількості категорій та складності інтеграції.

Які проблеми прогнозування часових рядів зустрічаються найчастіше?

Фінансовий директор запитує прогнозування часових рядів продажів на квартал. Аналітик будує SARIMA, досягає MAPE 8.3% на тестовій вибірці — і з гордістю деплоїть. Через два місяці в production метрика падає до 23%. Причина класична: модель навчалася на даних до COVID, тестувалася на стабільному періоді, а production потрапив на промо-акцію та збій поставок. Data leakage + distribution shift = гарні цифри в ноутбуці та непрацюючий прогноз в реальності. Ми стикалися з цим десятки разів. Наш досвід — 5+ років у прогнозуванні часових рядів для рітейлу, фінтеху та IoT, більше 50 завершених проєктів.

Неправильна крос-валідація. Стандартний train_test_split для часових рядів — помилка. Випадкове розбиття створює data leakage: модель бачить «майбутні» значення в навчанні. Правильно — TimeSeriesSplit або walk-forward validation з expanding window.

Множинна сезонність. Погодинні дані споживання електроенергії мають три сезонності: добову (24 год), тижневу (168 год), річну (8760 год). SARIMA справляється лише з однією. Prophet обробляє кілька, але повільно масштабується на тисячі рядів.

Пропуски та аномалії в даних. Пропуск у сенсорних даних — це інформація (датчик відключився), а не просто NaN. Лінійна інтерполяція вбиває цей сигнал. Правильна обробка залежить від природи пропуску.

Cold start при ієрархічному прогнозуванні. Новий SKU в асортименті з 50 000 позицій: історичних даних немає, потрібен прогноз. Стандартні підходи тут не працюють — потрібні cross-learning підходи або feature-based методи.

Які інструменти і коли застосовувати?

Prophet (Meta) — чудовий старт для бізнес-даних із зрозумілою сезонністю та святами. Швидко налаштовується, інтерпретований, вбудована обробка викидів і пропусків. Падає в точності при нерегулярних патернах і не масштабується на десятки тисяч рядів без паралелізації. Prophet (Facebook) — офіційна документація.

Gradient boosting на фічах (LightGBM, XGBoost) — часто недооцінений підхід. Створюєте фічі вручну: лаги (t-1, t-7, t-28), ковзні середні, категоріальні ознаки (день тижня, місяць), екзогенні змінні. Модель навчається на всіх рядах одночасно — вирішує cold start через схожі ряди. MAPE на рітейл-прогнозуванні часто кращий за нейронні мережі при правильній feature engineering.

TFT (Temporal Fusion Transformer) — трансформер, спеціально розроблений для інтерпретованого прогнозування з коваріатами. Вбудовані механізми: variable selection (які ознаки важливі), temporal self-attention (які часові точки впливають на прогноз), квантильні передбачення. Доступний у pytorch-forecasting. Вимагає ~10 000+ записів на ряд для стабільного навчання. Temporal Fusion Transformer — академічна публікація.

PatchTST — трансформер, який ділить часовий ряд на патчі (аналогічно ViT для зображень). Краще захоплює локальні патерни, ніж класичні трансформери. Добре працює для long-horizon forecasting (прогноз на 96–720 кроків). Реалізація в neuralforecast від Nixtla.

N-HiTS, N-BEATS — нейронні архітектури без attention, швидші за TFT, конкурентна точність. N-BEATS виграє на M4/M5 benchmark для задач без коваріат.

Як ми розгортаємо TFT в production?

TFT потребує ретельної підготовки даних. Типовий пайплайн через pytorch-forecasting:

training = TimeSeriesDataSet(
    data,
    time_idx="time_idx",
    target="sales",
    group_ids=["store", "sku"],
    min_encoder_length=max_encoder_length // 2,
    max_encoder_length=max_encoder_length,  # 120 днів
    min_prediction_length=1,
    max_prediction_length=max_prediction_length,  # 28 днів
    static_categoricals=["store_type", "category"],
    time_varying_known_reals=["price", "promo_flag"],
    time_varying_unknown_reals=["sales"],
    target_normalizer=GroupNormalizer(groups=["store", "sku"], transformation="softplus"),
)

Часта помилка: target_normalizer за замовчуванням (StandardScaler) ламає передбачення для рядів з нульовими значеннями (немає продажів у вихідні). GroupNormalizer з transformation="softplus" — правильний вибір для count-даних.

Покрокова інструкція з налаштування TFT

1. Збір та підготовка даних. Обробити пропуски (маркувати NaN, інтерполювати лише якщо це технічний збій), агрегувати до потрібної частоти, сформувати коваріати (свята, промо, ціни).
2. Створення TimeSeriesDataSet. Вказати group_ids (наприклад, магазин+SKU), часовий індекс, горизонт прогнозу. Налаштувати target_normalizer з урахуванням розподілу таргета.
3. Навчання baseline. Спочатку Prophet або LightGBM — щоб зрозуміти, наскільки складніше завдання.
4. Тренування TFT. Запустити TemporalFusionTransformer з loss=QuantileLoss(), підібрати learning rate та розміри hidden шарів. Використовувати pytorch_forecasting або neuralforecast.
5. Валідація та інтерпретація. Перевірити walk-forward, проаналізувати variable selection, побудувати attention heatmap.

Кейс: прогноз попиту в рітейлі. Мережа з 120 магазинів, 8000 SKU, горизонт прогнозу 28 днів. Вихідна система: SARIMA окремо для кожного ряду, MAPE 18.4%, повний цикл перенавчання — 6 годин. TFT на PyTorch + pytorch-forecasting: одна модель на всі ряди, MAPE 11.2%, перенавчання — 40 хв на A10G. Додатковий бонус: feature importance через variable selection — з'ясувалося, що day_before_holiday впливає сильніше, ніж сама дата свята. Середня економія бюджету на інференсі для клієнта склала значну суму.

Як правильно оцінювати якість прогнозів?

Не використовуйте RMSE як єдину метрику — вона сильно штрафує за великі помилки на великих значеннях. Наш набір метрик для рітейл-прогнозування:

• MAPE — інтерпретована, але нестабільна при значеннях близьких до нуля
• sMAPE — симетрична версія, уникає ділення на маленькі числа
• MASE (Mean Absolute Scaled Error) — нормалізована відносно наївного сезонного прогнозу, чудово підходить для порівняння між рядами з різними масштабами
• Quantile loss / Pinball loss — для ймовірнісного прогнозування, оцінка покриття інтервалів

Гарантуємо: ми надаємо model card з цими метриками на валідаційній вибірці та результати walk-forward тесту на історії не менше 6 місяців.

Що входить в роботу

• Документація щодо обраної архітектури, обґрунтування вибору гіперпараметрів.
• Відтворюваний пайплайн навчання та інференсу (Docker + CI/CD + Airflow/Prefect).
• Код з коментарями та модульними тестами на ключові компоненти.
• Навчання вашої команди: як перенавчати модель, як інтерпретувати виходи, як деплоїти нові версії.
• Підтримка протягом 3 місяців після здачі: консультації, виправлення багів, доналаштування.

Процес роботи

Починаємо з EDA: візуалізація, тест ADF на стаціонарність, STL-декомпозиція, аналіз пропусків та викидів. Це 2–3 дні, але часто виявляє системні проблеми даних, які блокують прогнозування.

Потім: baseline (наївний seasonal, Prophet), feature engineering для LGBM, вибір архітектури нейронної мережі якщо потрібно. Walk-forward validation з реалістичним горизонтом. Деплой через API з автоматичним перенавчанням за розкладом через Airflow або Prefect.

Строки орієнтовно: MVP-прогноз на одному типі даних — 3–6 тижнів. Ієрархічна система прогнозування з автоматизацією — 2–5 місяців. Вартість розраховується індивідуально.

Наша команда — сертифіковані ML-інженери (AWS ML Specialty, GCP Professional ML Engineer). За 5 років на ринку реалізували понад 50 проєктів з прогнозування. Зв'яжіться з нами для безкоштовного аналізу ваших даних — ми оцінимо завдання та дамо перші рекомендації за 1–2 дні. Замовте консультацію і переконайтеся, що ваші прогнози працюють в production, а не тільки в ноутбуці.