Повна розробка AI-арбітражного бота на ML для статистичного арбітражу

Розробка AI-арбітражного бота на базі ML

Чистий арбітраж (risk-free profit) вже давно знищили HFT-алгоритми. Реальні гроші — статистичні стратегії, які несуть ризики, і тут без ML не обійтися. Ми розробляємо таких ботів з нуля: від збору тікових стаканів до деплою на серверах поряд з біржею (co-location). На одному з проектів ми побудували pairs trading систему, яка тримає Sharpe вище 2.0 вже другий рік. Почнемо з головного: як ML знаходить арбітражні можливості? Для цього потрібна коінтеграція — статистичний зв'язок між цінами двох активів. Якщо спред відхиляється від рівноваги, ми відкриваємо позицію. Але щоб спред був стабільним, потрібен правильний підбір пар та адаптивний hedge ratio. Наш стек: Python для прототипування, C++ для виконання. Нижче розберемо деталі — таблиці, код та покрокову інструкцію.

Як ML знаходить арбітражні пари?

Спочатку беремо 500+ активів, розраховуємо кореляційну матрицю, кластеризуємо (K-means) і відбираємо пари всередині кластерів. Тестуємо cointegration тестом Енгла–Грейнджера (Engle-Granger cointegration test). З ~125 тисяч пар залишається 50–200 торгованих. Далі для кожної пари рахуємо динамічний hedge ratio через Kalman Filter. Нижче приклад коду — він з продакшну на біржі Deribit.

import numpy as np
from statsmodels.tsa.stattools import coint
from pykalman import KalmanFilter

# Kalman Filter для динамічного hedge ratio
kf = KalmanFilter(
    transition_matrices=[1],
    observation_matrices=[1],
    initial_state_mean=0,
    initial_state_covariance=1,
    observation_covariance=0.5,
    transition_covariance=0.1
)

# hedge_ratios = state means over time
state_means, _ = kf.filter(spreads.values)

Чому саме Kalman Filter? Він адаптується до змін ринку, на відміну від статичної OLS. Таблиця порівняння:

Kalman Filter дає Sharpe в 1.5 рази вищий, ніж OLS. Крім того, ми використовуємо байєсівські методи для оцінки невизначеності моделі та градієнтний бустинг (XGBoost) для ранжування пар за потенційною прибутковістю — це дозволяє відсіяти хибні коінтеграції та підвищити стабільність системи.

Типи арбітражних стратегій: таблиця

Чому latency критичний для cross-exchange арбітражу?

На високих частотах вікно — пара мілісекунд. Ми розміщуємо resting orders на обох біржах і при виявленні розбіжності одночасно скасовуємо та виставляємо. Co-location в дата-центрах (Equinix NY4/LD4) з kernel bypass (DPDK) та FPGA для ultra-low latency. На одному проекті досягли p99 < 500 мкс.

Для статарбітражу з денним горизонтом latency не така важлива — вистачає VPS.

Як побудувати pairs trading бота: покроково

1. Збір даних — тікові стакани через WebSocket, зберігаємо в ClickHouse.
2. Кластеризація — кореляційна матриця → K-means.
3. Відбір пар — cointegration тест, p-value < 0.05.
4. Розрахунок hedge ratio — Kalman Filter (динамічний) або OLS (статичний).
5. Система управління ризиками — Value-at-Risk, stop-loss по спреду.
6. Backtesting — на історичних даних з урахуванням slippage та комісій.
7. Deployment — Docker контейнери, Gitlab CI, моніторинг Prometheus + Grafana.

Signal decay: як не втратити гроші

Статистичні стратегії деградують — alpha йде. Ми моніторимо rolling Sharpe ratio кожної пари. Якщо за 30 торгових днів Sharpe впав нижче 1.0 — пара виключається і модель перенавчається.

Що входить в роботу

— Документація стратегії та архітектури — REST API для інтеграції з брокером або біржею — Вихідний код на Python/C++ з юніт-тестами — Інструкція з розгортання (Docker, Ansible) — Навчання команди замовника (2-3 сесії) — 3 місяці технічної підтримки — Середня вартість проекту починається від $20,000, а економія від автоматизації може сягати 60% операційних витрат.

Гарантуємо якість коду та безпеку угод.

Досвід команди — понад 10 років в HFT та ML. Завершено 25+ проектів з алготрейдингу. Працюємо з криптобіржами, брокерами та фондами.

Зв'яжіться з нами, щоб ми оцінили ваш проект і запропонували оптимальну архітектуру. Отримайте консультацію з вибору стратегії та стеку.

Галузеві AI-рішення: медицина, фінанси, рітейл, виробництво

Ми стикаємося з однією і тією ж проблемою: горизонтальна модель тексту не розрізняє медичну номенклатуру, а стандартний детектор об'єктів плутає «подряпину на шві зварювання» з «подряпиною на корпусі». Кожного разу це різні дефекти з різними наслідками. Щоб цього уникнути, ми будуємо галузеві рішення поверх загальних методів, але з глибоким знанням домену — від регуляторики до специфіки даних. За 5 років ми провели 80+ проектів у фінтесі, медицині, рітейлі та виробництві, і жоден не обійшовся без адаптації під конкретний business case.

Як ми будуємо галузеві AI-рішення?

Медицина: регуляторний лабіринт та data governance

Медичний AI відрізняється не технічними алгоритмами, а compliance-first підходом. Залежно від країни застосування модель може бути медичним виробом класу II або III, що вимагає клінічних випробувань (FDA, CE MDR, ГОСТ Р). Ми гарантуємо дотримання цих норм на етапі архітектури — правити постфактум в 10× дорожче.

Медична візуалізація. Детекція на рентгенограмах, КТ, МРТ — зріла область. Моделі на ResNet, EfficientNet, SegFormer досягають AUC 0.94–0.97 на стандартних задачах (пневмонія на CXR, поліпи на колоноскопії). Ключова проблема — generalization: модель, навчена на даних одного виробника сканера, деградує на іншому через відмінності в preprocessing та артефактах. Рішення — domain adaptation через MONAI (Medical Open Network for AI) від NVIDIA, в якому вбудовані DICOM-loading, 3D augmentation та confidence calibration. TotalSegmentator — для автоматичної сегментації 117 структур на КТ, production-ready, ліцензія Apache 2.0.

Clinical NLP. Вилучення структурованої інформації з клінічних записів: діагнози (ICD-10/11), призначення, дати, показники. medspaCy, scispaCy, MedCAT — спеціалізовані NLP-бібліотеки з онтологіями (SNOMED-CT, UMLS). Fine-tuning BioBERT або ClinicalBERT на наших даних дає F1 0.85–0.92 на NER задачах — це на 20-30% вище, ніж у загального BERT. Ми перевірили це на проекті з регіональним онкологічним центром: точність вилучення стадій раку зросла на 23%.

Clinical decision support. LLM-асистенти для підтримки клінічних рішень — регуляторна сіра зона. Ми використовуємо RAG-систему поверх клінічних гайдлайнів (UpToDate, локальні протоколи) з явним зазначенням джерела кожного твердження. Модель не діагностує, а допомагає знайти релевантний протокол. Стек: LlamaIndex + pgvector + pubmedbert-base-embeddings + Llama Guard для safety. Дані в DICOM/HL7 FHIR, on-premise деплой обов'язковий.

Що входить в роботу над медичним проектом:

• Аудит даних та регуляторної карти (FDA/CE/ГОСТ)
• Вибір архітектури під тип медичного виробу
• Розробка та валідація моделі (AUC, sensitivity, specificity)
• Інтеграція з PACS/EHR (HL7 FHIR)
• Підготовка документації для CE-маркування (якщо потрібно)
• Навчання персоналу роботі з моделлю

Для оцінки вашого медичного проекту зв'яжіться з нами — ми проведемо аудит даних та регуляторних вимог.

AI рішення для фінтеху: інтерпретованість скорингу під Basel IV

Фінансовий сектор — один з найбільш зрілих щодо застосування ML, але зарегульованість тут максимальна. Кожна модель, що впливає на кредитні рішення, підпадає під Basel IV, EU AI Act, GDPR Article 22. В одному з останніх проектів ми впровадили скорингову модель для банку з топ-10, де кожен запис вимагав пояснення по SHAP.

Кредитний скоринг. Gradient boosting (LightGBM, XGBoost) — домінує. Нейронні мережі дають +0.5–2% AUC, але втрачають інтерпретованість. LightGBM навчається в 3-5 разів швидше за нейронні мережі та дає змогу використовувати SHAP для пояснення кожного рішення. Обов'язкова перевірка на fairness: Fairlearn або aif360 для аудиту disparate impact по protected attributes (вік, стать). Клас «дефолт» становить 1–5% — при імбалансі 1:30 модель з accuracy 97% може мати recall 0.2. Рішення: focal loss, class_weight='balanced', SMOTE + careful validation.

Алгоритмічний трейдинг та ризик-менеджмент. LSTM та Transformer для прогнозу цін — популярні, але в production нестабільні через нестаціонарність фінансових рядів. Більш надійний підхід: ML для signal generation (класифікація: зростання/падіння за горизонт N) з традиційним portfolio optimization зверху. Backtesting через Zipline-Reloaded, vectorbt, QuantLib. Критичний правильний backtesting — look-ahead bias вбиває результати. Ми гарантуємо чистоту експерименту: всі дані на момент сигналу доступні в реальному часі.

AML (Anti-Money Laundering). Graph Neural Networks для аналізу транзакційних мереж — активно розвивається область. PyG, DGL для GNN. Задача: виявити suspicious patterns в графі транзакцій (layering, structuring). Recall критичніший за precision — краще 10 хибних тривог, ніж пропустити відмивання. В проекті для великого платіжного сервісу ми підвищили recall на 18% без збільшення false positive rate.

Що входить в роботу над фінансовим проектом:

• Аудит даних та регуляторних вимог (Basel, EU AI Act)
• Вибір моделі та забезпечення explainability (SHAP, LIME)
• Перевірка fairness та відсутність bias
• Інтеграція з core banking / trading systems
• Документація та compliance-звітність
• Моніторинг дрейфу моделі та ретрейн

Замовте консультацію — ми оцінимо ваш датасет та відповідність регуляторним вимогам

Рітейл та e-commerce: рекомендаційні системи та demand forecasting

Рекомендаційні системи. Архітектурний стандарт останніх років: two-tower модель для retrieval + ranking з cross-features. TensorFlow Recommenders або Merlin від NVIDIA для GPU-accelerated feature processing. Для невеликих каталогів (<100k item) достатньо LightFM. Часта помилка — навчати на implicit feedback без урахування position bias. Рішення: IPW (Inverse Propensity Weighting) або randomized logging на частині трафіку. Термін розробки базової рекомендаційної системи — 4–8 тижнів, включаючи A/B-тест.

Demand forecasting та inventory optimization. Ієрархічне прогнозування: SKU → категорія → магазин → регіон. HierarchicalForecast від Nixtla автоматично узгоджує прогнози за рівнями. TFT або N-HiTS для базового прогнозу, gradient boosting для adjustment на екзогенних факторах (промо, погода, події). Один проект у рітейлі призвів до зниження сток-аутів на 15% за рахунок точного промо-калібрування.

Visual search та розмірна сумісність. CLIP-embeddings для пошуку за зображенням — деплоїться за 2–3 тижні: clip-ViT-B-32 або clip-ViT-L-14, індекс Faiss або Qdrant, REST API. Для size recommendation — специфічні моделі на даних повернень та відгуків із зазначенням fit.

Що входить в роботу над рітейл-проектом:

• Аналіз даних транзакцій, товарів, клієнтів
• Вибір архітектури (collaborative / content-based / hybrid)
• Розробка та оцінка якості (NDCG, recall@k, MRR)
• A/B-тест та моніторинг business impact
• Підтримка версіонування та пере навчання моделей

Отримайте комерційну пропозицію для вашого e-commerce проекту

Чому domain expert критичний для галузевого AI?

Виробництво: інспекція якості та predictive maintenance

Quality control та дефектоскопія. CV-моделі для інспекції продукції — одне з найбільш зрілих галузевих завдань. YOLOv10 для детекції дефектів, SegFormer для сегментації. Специфіка: дисбаланс класів (дефекти рідкісні), високі вимоги до recall (пропуск дефекту гірший за хибну тривогу). Типовий набір даних: 500–2000 зображень з дефектами + 500–1000 нормальних. Few-shot learning через DINO або SAM 2 дозволяє працювати з 50–100 анотованими прикладами. Ми отримали досвід на лінії з виробництва електроніки — recall 0.95 при FPR 0.03.

Predictive maintenance. Вібраційні датчики, струмові датчики, термопари → feature extraction → аномалія або класифікація режиму. Моделі: LSTM-AE для unsupervised, LightGBM для supervised (якщо є історія відмов). Інтеграція з SCADA/OPC-UA через opcua-asyncio або MQTT. Ключова метрика: False Negative Rate — пропущений передвідмова коштує дорожче хибної тривоги. Поріг налаштовується під бізнес-вартість кожного типу помилки. Терміни: від 3 до 6 місяців до production.

Digital twin та симуляція. Surrogate models — ML-моделі, що замінюють дороге фізичне моделювання. Якщо CFD-симуляція займає 6 годин, а surrogate (навчена на 10 000 симуляцій) — 0.01 секунди, це 2 000 000× прискорення для оптимізації. SALib для sensitivity analysis, botorch для Bayesian optimization поверх surrogate.

Що входить в роботу над виробничим проектом:

• Аудит даних сенсорів / зображень
• Вибір моделі під задачу (CV / time series / vibro)
• Розробка пайплайну (ETL, feature engineering, training)
• Розгортання на Edge / on-premise
• Моніторинг та ретрейн моделі

Загальні принципи галузевого AI. Незалежно від галузі, є патерни, що працюють скрізь. Domain expert в команді — ML-інженер без domain knowledge робить повільно і з помилками те, що ML-інженер плюс лікар/фінансист/технолог зроблять швидко і правильно. Compliance-first design — регуляторні вимоги простіше вбудувати в архітектуру з початку, ніж додати пізніше. Логування, пояснюваність, версіонування — з першого дня. Дані важливіші за архітектуру — в медицині 1000 якісно розмічених знімків краще 100 000 поганих. У виробництві 200 реальних прикладів дефектів цінніші за 10 000 синтетичних.

Порівняння підходів за швидкістю та точністю для різних галузей:

Як проходить робота над галузевим AI-рішенням?

1. Занурення в домен (2–3 дні) — інтерв'ю з експертами, вивчення регуляторних вимог, аудит доступних даних.
2. Проектування MVP (1–2 тижні) — вибір стеку, архітектури, оцінка feasibility.
3. Розробка та валідація (від 4 тижнів до 6 місяців залежно від галузі) — навчання моделі, тестування, compliance.
4. Інтеграція та деплой (1–4 тижні) — on-premise / cloud / edge, документація, навчання персоналу.
5. Підтримка та моніторинг — дрейф моделі, ретрейн, SLA.

Орієнтовні терміни:

Вартість розраховується індивідуально під кожен проект. Отримайте консультацію — оцінимо ваш датасет, регуляторну карту та бізнес-цілі.

Наш досвід та гарантії

80+ реалізованих проектів у фінтесі, медицині, рітейлі та виробництві. Стійкий досвід роботи з compliance та деплоєм. Ми відповідаємо за досягнення цільових метрик (AUC, recall, latency p99) і надаємо повну документацію — model card, datasheet, compliance report. Використовуємо open-source з комерційно безпечними ліцензіями (PyTorch, MONAI, LightGBM, Qdrant). Працюємо як підрядник та в ролі посилення вашої команди.

Зв'яжіться з нами — обговоримо ваше завдання та підготуємо комерційну пропозицію з планом робіт.