AI-система Customer Health Scoring для Customer Success

Одна з найчастіших проблем Customer Success — вчасно помітити, що ключовий клієнт збирається піти. Традиційні дашборди та ручні обходи CSM дають картину із запізненням на 1-2 квартали. Ми пропонуємо побудувати ML-систему Customer Health Scoring (CHS), яка детектує сигнали відтоку за 90 днів до фактичного догляду. На одному з проєктів B2B SaaS точність прогнозу досягла AUC 0.89, що дозволило врятувати 15% відтоку. Згідно з дослідженням Gartner, компанії, що використовують AI для прогнозування відтоку, скорочують churn в середньому на 25%.

Які проблеми вирішує ML-модель CHS?

Customer Health Score (CHS) — інтегральний показник того, наскільки клієнт залучений у продукт і наскільки ймовірне продовження або відтік. Для B2B SaaS та підписних сервісів це провідний індикатор NRR (Net Revenue Retention). ML-підхід дозволяє перейти від інтуїції CSM до об'єктивної, відтворюваної оцінки. Основні проблеми, які вирішує система:

• Неоднозначність сигналів: зниження usage може бути сезонним, а не ознакою відтоку. ML-модель враховує контекст.
• Запізнення реакції: ручні обходи дають картину із затримкою в 1-2 місяці, а модель працює в реальному часі.
• Розрізненість даних: дані з CRM, support, product analytics об'єднуються в єдиний pipeline.

Типові помилки rule-based систем: вони часто пропускають складні комбінації сигналів. Наприклад, зниження usage саме по собі може бути небезпечним, але в поєднанні з upcoming renewal та відсутністю champion стає критичним. ML-модель виявляє такі нелінійні взаємодії.

Як ML-модель покращує Customer Health Scoring?

Сигнали для моделі

Product Usage:

• DAU/WAU/MAU: активність основних юзерів акаунта
• Feature adoption: відсоток ключових фіч, задіяних за останні 30 днів
• Глибина використання: advanced features vs. базові
• Стагнація: зниження використання за останні 4 тижні

Support & Success сигнали:

• Відкриті тікети без відповіді > 3 днів — негативний сигнал
• NPS, CSAT оцінки за останні 6 місяців
• EBR (Executive Business Review) відбувся — позитивний сигнал
• Escalations: скарги рівня керівництва

Комерційні індикатори:

• Renewal date proximity: < 90 днів → підвищена увага
• Expansion або скорочення за останні 12 місяців
• Invoice payment delays: прострочення платежів
• Contract modifications: спроби переглянути умови

Relationship сигнали:

• Sponsor changes: пішов champion з акаунта — високий ризик
• Multi-threading: скільки контактів знає CSM (< 2 = single-threaded)
• Last meaningful interaction: коли востаннє була реальна розмова

Feature Engineering

def compute_customer_health_features(account_id, lookback_days=90):
    usage = get_product_usage(account_id, lookback_days)
    support = get_support_tickets(account_id, lookback_days)
    commercial = get_crm_data(account_id)

    return {
        # Usage trends
        'usage_trend_slope': np.polyfit(range(lookback_days), usage['daily_active_users'], 1)[0],
        'feature_adoption_score': len(usage['active_features']) / total_key_features,
        'power_user_ratio': usage['high_frequency_users'] / usage['total_seats'],

        # Support health
        'open_critical_tickets': support[support['priority'] == 'critical']['count'],
        'avg_resolution_time_days': support['avg_resolution_time'],
        'recent_nps': support['last_nps_score'],

        # Commercial
        'days_to_renewal': (commercial['renewal_date'] - today).days,
        'logo_expansion_12m': commercial['arr_change_12m'],
        'payment_delay_days': commercial['avg_payment_delay'],

        # Relationship
        'sponsor_change_6m': commercial['sponsor_changed_flag'],
        'contacts_known': commercial['known_contacts_count'],
        'days_since_last_call': (today - commercial['last_substantive_contact']).days
    }

Моделі та архітектура

Composite Score (правиловий baseline):

def rule_based_health_score(features):
    score = 100  # починаємо зі 100

    # Usage penalties
    if features['usage_trend_slope'] < -0.1:
        score -= 20
    if features['feature_adoption_score'] < 0.3:
        score -= 15

    # Support penalties
    if features['open_critical_tickets'] > 0:
        score -= 25
    if features['recent_nps'] and features['recent_nps'] < 7:
        score -= 15

    # Commercial risk
    if features['days_to_renewal'] < 60 and features['logo_expansion_12m'] < 0:
        score -= 20

    return max(0, min(100, score))

ML-модель поверх: LightGBM або Logistic Regression, навчена на історичних даних «продовжив/пішов» через 12 місяців. Перевага vs. правила: виявляє нелінійні взаємодії (наприклад, зниження usage само по собі — не ризик, але в поєднанні з upcoming renewal — критично).

Temporal validation:

# Walk-forward: навчаємо на когортах < 12 місяців тому, передбачаємо на пізніших
# Метрика: AUC на 90-day churn prediction
# Baseline: просто renewal date + останній NPS

Чому варто автоматизувати CHS за допомогою AI?

Порівняння rule-based та ML-підходів на реальних даних:

ML-модель виявляє на 35% більше ризиків, ніж правила, особливо в сценаріях із комбінацією сигналів. В одному з проєктів точність прогнозу відтоку за 90 днів виявилася в 1.3 рази вищою, ніж у найкращого rule-based підходу.

Сегментація ризику та дії

Risk Tiers:

Automated Playbooks:

def trigger_playbook(account, health_score, reason_codes):
    if health_score < 30:
        crm.create_task(owner='csm_manager', type='urgent_review', account=account)
        slack.notify('#csm-alerts', f"CRITICAL: {account.name} score={health_score}")
    elif health_score < 50 and 'usage_decline' in reason_codes:
        gainsight.enroll_in_playbook(account, 'activation_campaign')
    elif health_score > 80 and account.days_to_renewal < 90:
        crm.create_opportunity(account, type='expansion', amount=account.arr * 0.2)

Що входить у роботу

Процес роботи

1. Аналітика: збираємо всі доступні сигнали, виявляємо прогалини в даних.
2. Проектування: визначаємо вікно передбачення (90 днів), обираємо метрики.
3. Реалізація: будуємо feature pipeline, rule-based та ML-моделі.
4. Тестування: walk-forward валідація, порівняння з baseline.
5. Деплой: інтеграція з інструментами CS, налаштування моніторингу.

Строки орієнтовно

• Базове рішення (feature pipeline + rule-based + CRM інтеграція): від 3 до 4 тижнів.
• Повне рішення (ML-модель + playbooks + Gainsight інтеграція): від 6 до 8 тижнів.

Вартість розраховується індивідуально після аудиту даних та обсягу інтеграцій. Зв'яжіться з нами для аудиту ваших даних та оцінки проєкту. Отримайте консультацію щодо впровадження CHS.

Типові помилки при впровадженні CHS

• Ігнорування relationship-сигналів: відхід champion — один із найсильніших предикторів відтоку, але його часто не враховують.
• Занадто рідке оновлення: health score має перераховуватися щодня, а не раз на тиждень.
• Відсутність зворотного зв'язку: модель має вчитися на результатах дій CSM (зберегли клієнта чи ні).

Для початку роботи з CHS зв'яжіться з нами — ми проведемо аудит даних та запропонуємо оптимальне рішення.

Які проблеми прогнозування часових рядів зустрічаються найчастіше?

Фінансовий директор запитує прогнозування часових рядів продажів на квартал. Аналітик будує SARIMA, досягає MAPE 8.3% на тестовій вибірці — і з гордістю деплоїть. Через два місяці в production метрика падає до 23%. Причина класична: модель навчалася на даних до COVID, тестувалася на стабільному періоді, а production потрапив на промо-акцію та збій поставок. Data leakage + distribution shift = гарні цифри в ноутбуці та непрацюючий прогноз в реальності. Ми стикалися з цим десятки разів. Наш досвід — 5+ років у прогнозуванні часових рядів для рітейлу, фінтеху та IoT, більше 50 завершених проєктів.

Неправильна крос-валідація. Стандартний train_test_split для часових рядів — помилка. Випадкове розбиття створює data leakage: модель бачить «майбутні» значення в навчанні. Правильно — TimeSeriesSplit або walk-forward validation з expanding window.

Множинна сезонність. Погодинні дані споживання електроенергії мають три сезонності: добову (24 год), тижневу (168 год), річну (8760 год). SARIMA справляється лише з однією. Prophet обробляє кілька, але повільно масштабується на тисячі рядів.

Пропуски та аномалії в даних. Пропуск у сенсорних даних — це інформація (датчик відключився), а не просто NaN. Лінійна інтерполяція вбиває цей сигнал. Правильна обробка залежить від природи пропуску.

Cold start при ієрархічному прогнозуванні. Новий SKU в асортименті з 50 000 позицій: історичних даних немає, потрібен прогноз. Стандартні підходи тут не працюють — потрібні cross-learning підходи або feature-based методи.

Які інструменти і коли застосовувати?

Prophet (Meta) — чудовий старт для бізнес-даних із зрозумілою сезонністю та святами. Швидко налаштовується, інтерпретований, вбудована обробка викидів і пропусків. Падає в точності при нерегулярних патернах і не масштабується на десятки тисяч рядів без паралелізації. Prophet (Facebook) — офіційна документація.

Gradient boosting на фічах (LightGBM, XGBoost) — часто недооцінений підхід. Створюєте фічі вручну: лаги (t-1, t-7, t-28), ковзні середні, категоріальні ознаки (день тижня, місяць), екзогенні змінні. Модель навчається на всіх рядах одночасно — вирішує cold start через схожі ряди. MAPE на рітейл-прогнозуванні часто кращий за нейронні мережі при правильній feature engineering.

TFT (Temporal Fusion Transformer) — трансформер, спеціально розроблений для інтерпретованого прогнозування з коваріатами. Вбудовані механізми: variable selection (які ознаки важливі), temporal self-attention (які часові точки впливають на прогноз), квантильні передбачення. Доступний у pytorch-forecasting. Вимагає ~10 000+ записів на ряд для стабільного навчання. Temporal Fusion Transformer — академічна публікація.

PatchTST — трансформер, який ділить часовий ряд на патчі (аналогічно ViT для зображень). Краще захоплює локальні патерни, ніж класичні трансформери. Добре працює для long-horizon forecasting (прогноз на 96–720 кроків). Реалізація в neuralforecast від Nixtla.

N-HiTS, N-BEATS — нейронні архітектури без attention, швидші за TFT, конкурентна точність. N-BEATS виграє на M4/M5 benchmark для задач без коваріат.

Як ми розгортаємо TFT в production?

TFT потребує ретельної підготовки даних. Типовий пайплайн через pytorch-forecasting:

training = TimeSeriesDataSet(
    data,
    time_idx="time_idx",
    target="sales",
    group_ids=["store", "sku"],
    min_encoder_length=max_encoder_length // 2,
    max_encoder_length=max_encoder_length,  # 120 днів
    min_prediction_length=1,
    max_prediction_length=max_prediction_length,  # 28 днів
    static_categoricals=["store_type", "category"],
    time_varying_known_reals=["price", "promo_flag"],
    time_varying_unknown_reals=["sales"],
    target_normalizer=GroupNormalizer(groups=["store", "sku"], transformation="softplus"),
)

Часта помилка: target_normalizer за замовчуванням (StandardScaler) ламає передбачення для рядів з нульовими значеннями (немає продажів у вихідні). GroupNormalizer з transformation="softplus" — правильний вибір для count-даних.

Покрокова інструкція з налаштування TFT

1. Збір та підготовка даних. Обробити пропуски (маркувати NaN, інтерполювати лише якщо це технічний збій), агрегувати до потрібної частоти, сформувати коваріати (свята, промо, ціни).
2. Створення TimeSeriesDataSet. Вказати group_ids (наприклад, магазин+SKU), часовий індекс, горизонт прогнозу. Налаштувати target_normalizer з урахуванням розподілу таргета.
3. Навчання baseline. Спочатку Prophet або LightGBM — щоб зрозуміти, наскільки складніше завдання.
4. Тренування TFT. Запустити TemporalFusionTransformer з loss=QuantileLoss(), підібрати learning rate та розміри hidden шарів. Використовувати pytorch_forecasting або neuralforecast.
5. Валідація та інтерпретація. Перевірити walk-forward, проаналізувати variable selection, побудувати attention heatmap.

Кейс: прогноз попиту в рітейлі. Мережа з 120 магазинів, 8000 SKU, горизонт прогнозу 28 днів. Вихідна система: SARIMA окремо для кожного ряду, MAPE 18.4%, повний цикл перенавчання — 6 годин. TFT на PyTorch + pytorch-forecasting: одна модель на всі ряди, MAPE 11.2%, перенавчання — 40 хв на A10G. Додатковий бонус: feature importance через variable selection — з'ясувалося, що day_before_holiday впливає сильніше, ніж сама дата свята. Середня економія бюджету на інференсі для клієнта склала значну суму.

Як правильно оцінювати якість прогнозів?

Не використовуйте RMSE як єдину метрику — вона сильно штрафує за великі помилки на великих значеннях. Наш набір метрик для рітейл-прогнозування:

• MAPE — інтерпретована, але нестабільна при значеннях близьких до нуля
• sMAPE — симетрична версія, уникає ділення на маленькі числа
• MASE (Mean Absolute Scaled Error) — нормалізована відносно наївного сезонного прогнозу, чудово підходить для порівняння між рядами з різними масштабами
• Quantile loss / Pinball loss — для ймовірнісного прогнозування, оцінка покриття інтервалів

Гарантуємо: ми надаємо model card з цими метриками на валідаційній вибірці та результати walk-forward тесту на історії не менше 6 місяців.

Що входить в роботу

• Документація щодо обраної архітектури, обґрунтування вибору гіперпараметрів.
• Відтворюваний пайплайн навчання та інференсу (Docker + CI/CD + Airflow/Prefect).
• Код з коментарями та модульними тестами на ключові компоненти.
• Навчання вашої команди: як перенавчати модель, як інтерпретувати виходи, як деплоїти нові версії.
• Підтримка протягом 3 місяців після здачі: консультації, виправлення багів, доналаштування.

Процес роботи

Починаємо з EDA: візуалізація, тест ADF на стаціонарність, STL-декомпозиція, аналіз пропусків та викидів. Це 2–3 дні, але часто виявляє системні проблеми даних, які блокують прогнозування.

Потім: baseline (наївний seasonal, Prophet), feature engineering для LGBM, вибір архітектури нейронної мережі якщо потрібно. Walk-forward validation з реалістичним горизонтом. Деплой через API з автоматичним перенавчанням за розкладом через Airflow або Prefect.

Строки орієнтовно: MVP-прогноз на одному типі даних — 3–6 тижнів. Ієрархічна система прогнозування з автоматизацією — 2–5 місяців. Вартість розраховується індивідуально.

Наша команда — сертифіковані ML-інженери (AWS ML Specialty, GCP Professional ML Engineer). За 5 років на ринку реалізували понад 50 проєктів з прогнозування. Зв'яжіться з нами для безкоштовного аналізу ваших даних — ми оцінимо завдання та дамо перші рекомендації за 1–2 дні. Замовте консультацію і переконайтеся, що ваші прогнози працюють в production, а не тільки в ноутбуці.