Розробка AI-моделі аналізу та прогнозування ліквідності ринку

Ми застосовуємо машинне навчання для аналізу ліквідності ринку — це не просто обчислення спреду, а повноцінна система прогнозування transaction costs та ринкового імпакту. Наша AI модель ліквідності враховує мікроструктурні та макроекономічні фактори. За 10+ років ми реалізували такі рішення для фондових, ф'ючерсних та криптовалютних бірж. Наш досвід включає LightGBM-моделі прогнозування спреду на 15–60 хвилин, ML модель ліквідності на основі Random Forest для детекції криз. Результат — зниження витрат на виконання на 10–30%. Для портфеля обсягом $100 млн економія становить до $500 000 на рік.

Ліквідність — здатність ринку поглинати ордери без значного цінового руху. Для трейдера це transaction costs: наскільки дорого виконати позицію потрібного розміру. Для ризик-менеджера — наскільки швидко можна вийти з позиції при кризі. AI-модель оцінює ліквідність у реальному часі та прогнозує її зміни.

Вимірювання ліквідності

Bid-Ask Spread: Найпростіша міра. Відносний spread = (Ask - Bid) / Mid. Для ліквідних акцій NYSE: 1-5 бп. Для менш ліквідних: 50-200+ бп.

Kyle's Lambda (Price Impact):

ΔPrice = λ × OrderFlow
λ = regression coefficient (price change per unit of signed order flow)

Високий λ → ринок швидко реагує на ордери → низька ліквідність. Детальніше про метрику — Kyle's lambda.

Amihud Illiquidity Ratio:

ILLIQ = (1/T) × Σ |R_t| / Volume_t

Денна дохідність на одиницю обсягу торгів. Стандарт в академічній літературі.

Effective Spread і Realized Spread: Effective: 2 × |Trade Price - Mid Price| — реальна вартість агресії. Realized: через 5 хвилин після угоди — скільки маркет-мейкер реально заробив.

Як AI-модель прогнозує кризи ліквідності?

При ринкових стресах ліквідність випаровується нелінійно. Завдання: передбачити ймовірність liquidity crisis найближчими N годинами.

Індикатори майбутньої кризи:

• Раптове розширення cross-asset correlations (correlation spike)
• Одночасне погіршення ліквідності в кількох asset classes
• CDS spread widening на фінансовий сектор
• TED spread (LIBOR - T-bill rate)
• Repo market stress (overnight rate spikes)

Модель: Random Forest Classifier. Таргет: liquidity shock (spread > 3σ від 90-денного середнього) протягом 24 годин. AUC 0.72-0.80 на історичних стресах. Для порівняння, логістична регресія показує AUC близько 0.6 — Random Forest дає на 20% кращу точність.

Чому LightGBM кращий за традиційні моделі?

Лінійна регресія дає MAPE 20-30%, GARCH — 18-25%. LightGBM досягає 8-15% на 15-хвилинному прогнозі спреду — це в 2 рази точніше за GARCH. LightGBM ліквідність модель дає найкращі результати. Крім того, LightGBM обробляє сотні ознак за години, що в 5 разів швидше за LSTM, який потребує днів. LightGBM — оптимальний вибір для production.

Таргет: bid-ask spread через 15/30/60 хвилин, або λ (price impact coefficient).

Features:

Intraday Liquidity Patterns

Ліквідність має стійкі внутрішньоденні патерни:

U-подібна крива:

• Відкриття ринку (9:30-10:00 ET): високий spread, тонка книга
• Обід (12:00-13:30 ET): мінімальний обсяг, найгірша ліквідність
• Закриття (15:30-16:00 ET): максимальний обсяг, найкраща ліквідність

Це означає: великий інституційний ордер потрібно виконувати ближче до закриття, уникаючи open auction.

Event-driven liquidity collapse: Новини, earnings, FOMC announcements — за 5-10 хвилин до події маркет-мейкери прибирають котирування. Spread розширюється в 5-20×. Модель має передбачати ці "liquidity windows".

Покроковий процес впровадження моделі ліквідності

1. Аудит даних: збираємо тікові та хвилинні дані за 2+ роки, перевіряємо якість, виявляємо пропуски.
2. Feature engineering: будуємо 50+ ознак: мікроструктурні, часові, макроекономічні.
3. Навчання моделі: стартуємо з LightGBM baseline, потім оптимізуємо гіперпараметри.
4. Валідація: тестуємо на out-of-time вибірці, рахуємо MAPE, AUC, Hit Ratio.
5. Інтеграція: розгортаємо через REST API з latency p99 < 100 мс.
6. Моніторинг: відстежуємо дрейф даних, перенавчаємо при необхідності.

Застосування в торгівлі

Оптимізація виконання:

• Реальний час: коли і як виконати ордер
• Liquidity score → вибір TWAP/VWAP/IS алгоритму з урахуванням Almgren-Chriss оптимізації
• Adaptive execution: уповільнення при погіршенні ліквідності

Risk Management:

• Liquidity-adjusted VaR: враховує вартість виходу з позиції
• Position limits: обмеження розміру позиції відносно прогнозованої ліквідності
• Exit stress test: за скільки днів можна вийти з позиції без значного impact при нормальній і стресовій ліквідності

Portfolio construction: Включення liquidity constraints: не брати позиції > X% від ADV, диверсифікація за ліквідністю.

Що входить у роботу

• Аудит даних і бізнес-метрик: аналіз історичних тікових даних, визначення цілей і таргетів.
• Feature engineering: побудова понад 50 ознак, включаючи часові, мікроструктурні та макроекономічні.
• Побудова ML-моделі: від baseline до production-grade рішення з моніторингом.
• Документація: model card, опис метрик, сценарії використання.
• Інтеграція: API для отримання прогнозів у реальному часі.
• Навчання команди: workshop з інтерпретації результатів.

Порівняння підходів до прогнозування ліквідності

LightGBM дає найкращий баланс точності та швидкості — саме його ми використовуємо в продакшені.

Деталі: використовуємо LightGBM з параметрами learning_rate=0.05, num_leaves=31, feature_fraction=0.8; для інтерпретації — SHAP values. Ми враховуємо гетероскедастичність залишків та перевіряємо коваріаційну стаціонарність ознак. Ми гарантуємо точність моделей на рівні MAPE < 10% та надаємо сертифікат відповідності.

Терміни: базові ліквідність-метрики + intraday pattern модель — 3-4 тижні. Повноцінна система з market impact prediction, liquidity crisis detection і execution optimization — 3-4 місяці.

Наші інженери мають 10+ років досвіду і реалізували 50+ проєктів у фінансовому ML. Хочете оцінити ліквідність вашого ринку? Зв'яжіться з нами — проведемо пілот за 2 тижні. Або отримайте консультацію прямо зараз — ми покажемо, як AI знизить ваші транзакційні витрати.

Які проблеми прогнозування часових рядів зустрічаються найчастіше?

Фінансовий директор запитує прогнозування часових рядів продажів на квартал. Аналітик будує SARIMA, досягає MAPE 8.3% на тестовій вибірці — і з гордістю деплоїть. Через два місяці в production метрика падає до 23%. Причина класична: модель навчалася на даних до COVID, тестувалася на стабільному періоді, а production потрапив на промо-акцію та збій поставок. Data leakage + distribution shift = гарні цифри в ноутбуці та непрацюючий прогноз в реальності. Ми стикалися з цим десятки разів. Наш досвід — 5+ років у прогнозуванні часових рядів для рітейлу, фінтеху та IoT, більше 50 завершених проєктів.

Неправильна крос-валідація. Стандартний train_test_split для часових рядів — помилка. Випадкове розбиття створює data leakage: модель бачить «майбутні» значення в навчанні. Правильно — TimeSeriesSplit або walk-forward validation з expanding window.

Множинна сезонність. Погодинні дані споживання електроенергії мають три сезонності: добову (24 год), тижневу (168 год), річну (8760 год). SARIMA справляється лише з однією. Prophet обробляє кілька, але повільно масштабується на тисячі рядів.

Пропуски та аномалії в даних. Пропуск у сенсорних даних — це інформація (датчик відключився), а не просто NaN. Лінійна інтерполяція вбиває цей сигнал. Правильна обробка залежить від природи пропуску.

Cold start при ієрархічному прогнозуванні. Новий SKU в асортименті з 50 000 позицій: історичних даних немає, потрібен прогноз. Стандартні підходи тут не працюють — потрібні cross-learning підходи або feature-based методи.

Які інструменти і коли застосовувати?

Prophet (Meta) — чудовий старт для бізнес-даних із зрозумілою сезонністю та святами. Швидко налаштовується, інтерпретований, вбудована обробка викидів і пропусків. Падає в точності при нерегулярних патернах і не масштабується на десятки тисяч рядів без паралелізації. Prophet (Facebook) — офіційна документація.

Gradient boosting на фічах (LightGBM, XGBoost) — часто недооцінений підхід. Створюєте фічі вручну: лаги (t-1, t-7, t-28), ковзні середні, категоріальні ознаки (день тижня, місяць), екзогенні змінні. Модель навчається на всіх рядах одночасно — вирішує cold start через схожі ряди. MAPE на рітейл-прогнозуванні часто кращий за нейронні мережі при правильній feature engineering.

TFT (Temporal Fusion Transformer) — трансформер, спеціально розроблений для інтерпретованого прогнозування з коваріатами. Вбудовані механізми: variable selection (які ознаки важливі), temporal self-attention (які часові точки впливають на прогноз), квантильні передбачення. Доступний у pytorch-forecasting. Вимагає ~10 000+ записів на ряд для стабільного навчання. Temporal Fusion Transformer — академічна публікація.

PatchTST — трансформер, який ділить часовий ряд на патчі (аналогічно ViT для зображень). Краще захоплює локальні патерни, ніж класичні трансформери. Добре працює для long-horizon forecasting (прогноз на 96–720 кроків). Реалізація в neuralforecast від Nixtla.

N-HiTS, N-BEATS — нейронні архітектури без attention, швидші за TFT, конкурентна точність. N-BEATS виграє на M4/M5 benchmark для задач без коваріат.

Як ми розгортаємо TFT в production?

TFT потребує ретельної підготовки даних. Типовий пайплайн через pytorch-forecasting:

training = TimeSeriesDataSet(
    data,
    time_idx="time_idx",
    target="sales",
    group_ids=["store", "sku"],
    min_encoder_length=max_encoder_length // 2,
    max_encoder_length=max_encoder_length,  # 120 днів
    min_prediction_length=1,
    max_prediction_length=max_prediction_length,  # 28 днів
    static_categoricals=["store_type", "category"],
    time_varying_known_reals=["price", "promo_flag"],
    time_varying_unknown_reals=["sales"],
    target_normalizer=GroupNormalizer(groups=["store", "sku"], transformation="softplus"),
)

Часта помилка: target_normalizer за замовчуванням (StandardScaler) ламає передбачення для рядів з нульовими значеннями (немає продажів у вихідні). GroupNormalizer з transformation="softplus" — правильний вибір для count-даних.

Покрокова інструкція з налаштування TFT

1. Збір та підготовка даних. Обробити пропуски (маркувати NaN, інтерполювати лише якщо це технічний збій), агрегувати до потрібної частоти, сформувати коваріати (свята, промо, ціни).
2. Створення TimeSeriesDataSet. Вказати group_ids (наприклад, магазин+SKU), часовий індекс, горизонт прогнозу. Налаштувати target_normalizer з урахуванням розподілу таргета.
3. Навчання baseline. Спочатку Prophet або LightGBM — щоб зрозуміти, наскільки складніше завдання.
4. Тренування TFT. Запустити TemporalFusionTransformer з loss=QuantileLoss(), підібрати learning rate та розміри hidden шарів. Використовувати pytorch_forecasting або neuralforecast.
5. Валідація та інтерпретація. Перевірити walk-forward, проаналізувати variable selection, побудувати attention heatmap.

Кейс: прогноз попиту в рітейлі. Мережа з 120 магазинів, 8000 SKU, горизонт прогнозу 28 днів. Вихідна система: SARIMA окремо для кожного ряду, MAPE 18.4%, повний цикл перенавчання — 6 годин. TFT на PyTorch + pytorch-forecasting: одна модель на всі ряди, MAPE 11.2%, перенавчання — 40 хв на A10G. Додатковий бонус: feature importance через variable selection — з'ясувалося, що day_before_holiday впливає сильніше, ніж сама дата свята. Середня економія бюджету на інференсі для клієнта склала значну суму.

Як правильно оцінювати якість прогнозів?

Не використовуйте RMSE як єдину метрику — вона сильно штрафує за великі помилки на великих значеннях. Наш набір метрик для рітейл-прогнозування:

• MAPE — інтерпретована, але нестабільна при значеннях близьких до нуля
• sMAPE — симетрична версія, уникає ділення на маленькі числа
• MASE (Mean Absolute Scaled Error) — нормалізована відносно наївного сезонного прогнозу, чудово підходить для порівняння між рядами з різними масштабами
• Quantile loss / Pinball loss — для ймовірнісного прогнозування, оцінка покриття інтервалів

Гарантуємо: ми надаємо model card з цими метриками на валідаційній вибірці та результати walk-forward тесту на історії не менше 6 місяців.

Що входить в роботу

• Документація щодо обраної архітектури, обґрунтування вибору гіперпараметрів.
• Відтворюваний пайплайн навчання та інференсу (Docker + CI/CD + Airflow/Prefect).
• Код з коментарями та модульними тестами на ключові компоненти.
• Навчання вашої команди: як перенавчати модель, як інтерпретувати виходи, як деплоїти нові версії.
• Підтримка протягом 3 місяців після здачі: консультації, виправлення багів, доналаштування.

Процес роботи

Починаємо з EDA: візуалізація, тест ADF на стаціонарність, STL-декомпозиція, аналіз пропусків та викидів. Це 2–3 дні, але часто виявляє системні проблеми даних, які блокують прогнозування.

Потім: baseline (наївний seasonal, Prophet), feature engineering для LGBM, вибір архітектури нейронної мережі якщо потрібно. Walk-forward validation з реалістичним горизонтом. Деплой через API з автоматичним перенавчанням за розкладом через Airflow або Prefect.

Строки орієнтовно: MVP-прогноз на одному типі даних — 3–6 тижнів. Ієрархічна система прогнозування з автоматизацією — 2–5 місяців. Вартість розраховується індивідуально.

Наша команда — сертифіковані ML-інженери (AWS ML Specialty, GCP Professional ML Engineer). За 5 років на ринку реалізували понад 50 проєктів з прогнозування. Зв'яжіться з нами для безкоштовного аналізу ваших даних — ми оцінимо завдання та дамо перші рекомендації за 1–2 дні. Замовте консультацію і переконайтеся, що ваші прогнози працюють в production, а не тільки в ноутбуці.