Система авто-переобучения ML для криптотрейдинга

Автоматическое переобучение моделей: где ломается прогноз

Крипторынок переключает режим быстрее, чем модель машинного обучения успевает адаптироваться. Волатильность, ликвидность и корреляции между инструментами перестраиваются за считанные дни, а прогноз продолжает опираться на закономерности предыдущего режима — и уверенно выдаёт сигналы там, где их уже нет.

Дрейф данных идёт в двух слоях. Сначала смещаются входные распределения: признаки, которые раньше разделяли рост и падение, теряют разделяющую способность. Затем проявляется дрейф концепции — сама связь признаков с распределением доходностей становится другой, и закономерность, на которой строился сигнал, превращается в шум.

Опаснее всего то, что устаревание модели почти не видно по историческим метрикам. Качество сигнала падает не обвалом, а постепенно: доля прибыльных сделок снижается на несколько процентов, просадка подрастает, а на контрольной выборке картина остаётся благополучной. Ручное дообучение запаздывает на недели — пока аномалию заметят, соберут свежие данные и перепроверят гипотезу, рынок успевает сменить режим ещё раз.

Разбираем, как переобучение превращается из ручной операции в управляемый процесс: по каким признакам ловить дрейф, что считать триггером запуска и как проверять, что обновлённая модель действительно лучше прежней.

Эффект от регулярной актуализации прогноза

Когда переобучение запускалось вручную раз в квартал, модель продолжала торговать по закономерностям ушедшего режима. Смена волатильности ломала прогноз незаметно: доля ошибочных сигналов росла постепенно и обнаруживалась уже по просадке, а аналитик вручную сверял признаки и метрики, вместо того чтобы разбирать причины расхождений.

Управляемый цикл меняет картину. Переобучение запускается по триггеру — дрейф распределения признаков, падение метрики на свежем окне, приход нового объёма данных. Версия публикуется только после проверки на отложенном отрезке, где исключена утечка будущих значений, и только если превосходит текущую по целевой метрике и по устойчивости на разных рыночных режимах.

В измеримых величинах это выглядит так: время реакции на смену режима — один цикл обучения вместо недель ожидания; разброс качества между окнами падает, и прогноз перестаёт быть удачным лишь на одном типе рынка; доля ошибочных сигналов снижается за счёт отсева версий, не прошедших порог; нагрузка на аналитика смещается с ручных прогонов на разбор отклонений.

Реестр версий здесь — не формальность. MLflow хранит для каждой версии набор данных, параметры и метрики, поэтому изменения объяснимы, а возврат к предыдущей версии занимает минуты. Это убирает отдельный класс отказов — модель не «уезжает» молча, а итог цикла можно сравнить с предыдущим.

Режимы обновления модели: сравнение подходов

Рынок меняет режим быстрее, чем модель устаревает «естественным образом»: смещается распределение признаков и доходностей, и модель, обученная на прошлом режиме, начинает систематически ошибаться. От способа обновления зависит задержка между сменой режима и реакцией системы, а также риск, который мы берём на себя в момент подмены весов.

Четыре схемы, между которыми реально выбирают при построении автоматического переобучения моделей:

Любой режим замыкается на окно проверки: новая версия оценивается на отложенном отрезке свежих данных и в теневом режиме на живом потоке, и только затем получает долю капитала. Предыдущие веса сохраняются, поэтому откат занимает минуты.

Конвейер переобучения: от сигнала дрейфа до выката модели

Переобучение — не регламент «раз в неделю», а замкнутый конвейер с точками контроля: сигнал о деградации приходит из данных, а решение о выпуске принимается по метрикам на одинаковых для старой и новой версии периодах. Без версионирования артефактов и предсказуемого отката такой цикл превращается в неуправляемый эксперимент на живом капитале.

1. Разбор текущего цикла. Фиксируем окно исторических данных, состав признаков, метрику качества сигналов и событие, по которому вообще запускается переобучение.
2. Обнаружение дрейфа. Сравниваем распределение признаков и качество сигналов на свежем отрезке с эталонным: сдвиг режима рынка виден раньше, чем падение метрики по закрытым сделкам.
3. Подготовка выборки. Пересобираем набор под актуальный режим, убираем утечки будущих данных, приводим долю редких событий к их реальной частоте.
4. Проверка версии. Кандидат идёт на отложенный период и стрессовые сценарии — резкий обвал, остановка торгов; данные и параметры обучения фиксируем в MLflow.
5. Канареечный выкат. Новая версия получает ограниченную долю сигналов, старая торгует дальше: обе оцениваются на одном рынке, поэтому сравнение корректно.
6. Откат модели. Порог по просадке и расхождению с ожидаемым поведением возвращает предыдущую версию автоматически — за минуты, а не за торговую сессию.

Комплект поставки: конфигурации, схемы и регламенты

Комплект поставки собран так, чтобы автоматическое переобучение моделей жило внутри вашей инфраструктуры, а не в переписке с подрядчиком. Передаём не только код, но и то, что обычно остаётся в головах: откуда брать данные, когда модель считается деградировавшей и как её откатить.

• Конфигурация цикла обучения — расписание и триггеры: дрейф входных распределений, просадка метрики на отложенной истории. Порог допуска модели к торговле задан явно и меняется без правки кода.
• Схема данных — источники и частота сбора, нормализация, обработка пропусков и выбросов, проверки целостности на входе. Сырые и агрегированные ряды лежат раздельно — пересчёт не требует повторной выгрузки.
• Документация признаков — экономический смысл, окно расчёта, источник и поведение в аномальных условиях для каждого. Плюс порядок добавления нового признака без остановки цикла.
• Журнал версий модели — связка модели с набором данных, версией кода, гиперпараметрами и составом признаков; метрики на данных, которых модель не видела, и автор запуска. Любая версия воспроизводима.
• Регламент отката — условия срабатывания, кто решает, переключение на предыдущую сохранённую версию, целевое время возврата и проверка после. Предохранитель останавливает торговлю при расхождении прогноза с фактом.
• Регламент наблюдения и дежурства — какие показатели дрейфа смотрят, с какой периодичностью, кому идут оповещения и что проверить при расхождении.

После передачи ваши инженеры сами запускают переобучение и меняют состав признаков; наше участие нужно только на сложных изменениях логики.

Кейс: как выросла устойчивость прогноза на смене режима

Стратегия торговала на десятках инструментов, а модель переобучали вручную — раз в квартал, по расписанию. Пока рынок стоял в одном режиме, качество прогноза держалось; при смене режима — скачке волатильности и распаде привычных корреляций — модель продолжала опираться на устаревшие зависимости, и доля ошибочных сигналов за неделю вырастала с 8% до 19%.

Собрали контур автоматического переобучения: детектор дрейфа сравнивает распределение входных признаков и качество на скользящем окне с эталонным профилем, и при выходе за порог запускается обучение модели-кандидата. Новую версию сначала гоняем в теневом режиме рядом с рабочей, и только при сопоставимом или лучшем результате на отложенном отрезке она встаёт в боевой контур; откат на предыдущую версию — одна команда. Оркестрацию конвейера держим на Airflow.

Метрики до и после:

• доля ошибочных сигналов на смене режима: 19% → 7%;
• время от обнаружения дрейфа до версии в работе: 3–5 суток → 4 часа;
• аварийные вмешательства аналитика: 10–12 в месяц → 1–2.

Отдельно прогнали исторические участки со сменой режима: новая версия выводится раньше, чем просадка стратегии становится заметной по счёту. Ручной контроль остался только на подтверждении выката теневой ветки — устойчивость стратегии теперь держит контур, а не реакция дежурного аналитика.

Чем отличается триггерная смена модели от плановой?

Календарное расписание переобучает модель по фиксированному интервалу, без оглядки на состояние рынка. Сильная сторона — предсказуемость: вычислительные ресурсы планируются заранее, каждый цикл воспроизводим, откат на предыдущую версию отработан. Слабое место — задержка реакции: если режим сменился вскоре после очередного цикла, модель работает на устаревших зависимостях до следующего окна, и качество сигналов деградирует незаметно.

Триггерная смена опирается на признак дрейфа — расхождение предсказаний с фактом и сдвиг распределения входных данных на скользящем окне. Пока отклонение ниже порога срабатывания, модель не трогают; когда сигнал устойчиво его превышает, запускается переобучение. Задержка реакции измеряется часами, а не неделями, но платить за это приходится настройкой чувствительности.

Главный риск — ложные срабатывания. Резкий рыночный выброс и настоящая смена режима на коротком окне выглядят одинаково, поэтому каждое событие тянет за собой лишний цикл обучения и риск подогнать модель под шум. Лечится это требованием устойчивости: отклонение должно держаться несколько окон подряд, порог на возврат в норму задаётся отдельно и ниже, между переобучениями действует минимальный интервал.

Триггер выигрывает там, где режимы сменяются редко, но резко, а устаревшая модель дорого стоит по качеству сигналов. Календарь сильнее при плавной эволюции рынка, дорогом цикле обучения и жёстких требованиях к воспроизводимости — плановая смена проще проверяется на исторических данных. Рабочая схема обычно гибридная: редкое календарное окно как страховка, триггер по дрейфу как основной контур.

Технические сомнения, которые стоит снять до старта

Перед передачей цикла обучения на сопровождение инженерная команда заказчика задаёт пять вопросов. Они не про качество модели на истории, а про то, что произойдёт с ней на живых данных через месяц.

Что происходит с задержкой данных?

Каждый признак помечаем моментом, когда он реально доступен, а не моментом события. Обучение идёт на том же потоке, что и торговля, поэтому задержка не маскируется.

Как проверяются гипотезы?

Гипотеза — отдельная ветка с фиксированным окном данных и одной метрикой. Сравниваем на общем периоде, иначе разницу съедает смена режима рынка.

Как пересматриваются признаки?

Пересмотр — плановая процедура по расписанию и по триггеру падения метрики. Новый набор проходит тот же контур проверки, прежний остаётся для отката.

Как обеспечить воспроизводимость обучения?

Версионируем данные, конфигурацию и код — прогон повторяется в той же точке. Иначе улучшение не отличить от случайного пересева.

Обсудим задачу: с чего начинается работа

Чтобы вернуться с оценкой и планом работ, на первом разговоре нам достаточно разобрать шесть вещей — готовое техническое задание на этом этапе не требуется, вопросы задаём мы.

• Постановка задачи. Какое решение принимает модель и что зависит от его качества: размер позиции, момент входа, отказ от сделки. Чем яснее связь между прогнозом и действием, тем точнее определим, что именно переобучать.
• Текущий цикл обучения. Как модель обновляется сейчас: по расписанию, вручную или не обновляется вовсе. Ищем разрыв в контуре — подготовка данных, обучение, проверка, выкладка в торговую логику.
• Перечень данных. Доступные источники: котировки, стакан, сделки, новостной фон, метрики самого бота. Важны глубина истории и пропуски — от этого зависит, на каком отрезке проверять устойчивость.
• Критерии качества. Что считаем деградацией: просадку точности, рост ошибки на волатильных участках, смену профиля сделок. Фиксируем метрики и пороги, при которых запускается переобучение.
• Ограничения торгового контура. Скорость выкладки новой версии, доступы к счёту, требования к откату на предыдущую модель, поведение в моменты резких движений.
• Точка приёмки. Как убедимся, что система работает: проверка на отложенном отрезке истории, теневой запуск рядом с текущей логикой, срок наблюдения.

После разговора мы письменно фиксируем постановку задачи, критерии качества и план работ по этапам — и возвращаемся с оценкой сроков.