Навчання рекомендаційних моделей: Two-Tower, ALS, negative sampling

Помилка random split — одна з найчастіших причин провалу рекомендаційної системи в продакшні. Ми займаємося навчанням рекомендаційних моделей, які працюють в реальних умовах, а не на перетренованих метриках. Типовий випадок: клієнт з e-commerce використовував випадковий поділ, отримав NDCG@10 = 0.65, але після впровадження модель показувала 0.4. Після переходу на temporal split метрики впали, зате A/B тест дав +5% до виручки. Клієнт зазначив: «Випадковий поділ давав завищені метрики — часовий split виявився єдино чесним». Наш стек: PyTorch, Hugging Face Transformers, Faiss для ANN пошуку, ONNX Runtime для інференсу. Досвід команди — понад 5 років у ML і 50+ впроваджених рекомендаційних систем в e-commerce, медіа та fintech. Використовуємо Weights & Biases для трекінгу експериментів і MLflow для управління моделями. Замовте попередній аналіз даних — ми оцінимо вашу задачу і запропонуємо оптимальне рішення.

Проблеми, які вирішуємо

Неправильна генерація негативних прикладів

Якщо брати uniform sampling з усіх товарів, модель не навчиться відрізняти популярне від релевантного. Ми використовуємо popularity-based та hard negative mining (наприклад, товари, які модель вже помилково ранжує високо). Hard negative sampling покращує Recall@20 в 1.3 рази порівняно з uniform.

Холодний старт для нових користувачів і товарів

Без контентних ознак модель видає нульові передбачення. Ми додаємо side information (категорію, текст опису, зображення) через ембендінги.

Temporal bias

Реальні сценарії — це послідовність дій. Якщо перемішати дані випадково, модель «побачить» майбутнє під час навчання. Temporal split з відкладеними за часом val/test — обов'язкова умова.

Як ми це робимо: розгорнутий кейс

Серед наших проектів — інтернет-магазин з 5M взаємодій і 200K товарів. Ми побудували Two-Tower модель з об'єднанням через HNSW індекс. Пайплайн включав:

• передобробку логів: дедуплікація, фільтрація ботів, зважування взаємодій (покупка > перегляд);
• negative sampling 4:1 з урахуванням популярності; часовий split: 28 днів на train, 7 на val, 7 на test;
• Two-Tower: user tower — шар ембендінгів + Dense(256), item tower — те ж + L2 нормалізація. Loss — Weighted BCE з логарифмом позитивних ваг;
• навчання 20 епох з early stopping за NDCG@10, використовуючи AdamW (LR=1e-3). На GPU A100 — 45 хвилин;
• деплой через Triton Inference Server з ONNX моделлю. Latency p99 — 12 мс.

Результат: lift за NDCG@10 на 22% відносно ALS-бейзлайну, онлайн A/B тест показав +8% до додавань у кошик.

Чому важливий правильний negative sampling?

Негативні приклади задають межу прийняття рішень. Якщо всі негативні — це випадкові десяткові товари, модель легко їх відрізнить. Але на практиці потрібно розрізняти майже релевантні — наприклад, темний диван vs чорний диван. Hard negative sampling (з top-100 невзаємодіяних) дає більш robust навчання. У нас це реалізовано через кеш з ембендінгами та онлайн-вибірку.

Що дає часовий поділ?

Оцінка моделі на часовому спліті — єдиний спосіб отримати чесні метрики. Випадковий поділ може «зазирнути» в майбутнє, завищуючи результати. NDCG@10 на temporal split корелює з онлайн-результатами A/B тестів: розбіжність <15%.

Порівняння архітектур моделей

Порівняно з ALS, Two-Tower дає приріст в 1.2 рази за NDCG@10 при співставному часі інференсу.

Порівняння стратегій negative sampling

На практиці комбінуємо popularity-based та hard negatives: 80% популярних, 20% хард-негативів. Це дає баланс якості та швидкості.

Процес роботи

1. Аналітика: вивчаємо логи взаємодій, виявляємо вузькі місця (sparsity, cold start, imbalance).
2. Проектування: вибираємо архітектуру, функцію втрат, стратегію negative sampling.
3. Реалізація: пишемо pipeline на PyTorch + Hugging Face, інтегруємо з вашою системою логування.
4. Тестування: offline метрики (NDCG, recall@k) + онлайн A/B тест на 2-4 тижні.
5. Деплой: контейнеризація, моніторинг (дрейф даних, latency), документація.

Терміни та вартість

Терміни: від 2 тижнів (baseline + доопрацювання) до 2 місяців (full pipeline з кастомною архітектурою). Вартість обговорюється індивідуально після аналізу даних. Наші клієнти відзначають економію на інфраструктурі до 40% і зниження витрат на підтримку до 30% завдяки оптимізації пайплайну.

Що входить в роботу

• Підготовлений датасет для повторного навчання
• Baseline (ALS або Two-Tower) зі звітом за метриками
• Навчена фінальна модель (PyTorch/ONNX)
• Документація по відтворенню pipeline
• Код пайплайнів (препроцесинг, навчання, інференс)
• Методичка по донавчанню на нових даних
• Консультація по інструментам NDCG та Temporal Split

Отримайте консультацію спеціаліста — ми обговоримо ваш проект і запропонуємо оптимальне рішення.

Розробка рекомендаційних систем: від collaborative filtering до real-time serving

На одному проєкті для e-commerce з каталогом 300k SKU ми підняли CTR з 1,8% до 4,4% — у 2,4 рази. Перший ривок дала колаборативна фільтрація замість «популярне за останні 7 днів», другий — додавання контентних ознак та re-ranking. Різниця між «показуємо популярне» і «показуємо персоналізоване» — вимірна та суттєва. Нижче — інженерний досвід, який допоміг це зробити, і архітектури, які реально працюють у продакшені.

Collaborative Filtering: матрична факторизація та нейронні підходи

Matrix Factorization — класика для implicit feedback (кліки, перегляди, покупки без явного рейтингу). ALS (Alternating Least Squares) у бібліотеці Implicit обробляє матриці user×item із сотнями мільйонів ненульових значень за хвилини на GPU. Latent factors 64–256, регуляризація λ=0.01–0.1 — стартові параметри. Проблема cold start: для нового користувача або товару немає історії — класичний CF безпорадний, потрібні контентні ознаки або гібрид.

Neural Collaborative Filtering (NCF) замінює скалярний добуток на нейромережу. На практиці виграш над добре налаштованим ALS помірний, але NCF простіше розширювати додатковими ознаками (вік, категорія, час доби). Sequence-aware моделі (SASRec, BERT4Rec) враховують порядок взаємодій — state-of-the-art для сесійних рекомендацій.

Як вибрати архітектуру рекомендаційної системи?

Відповідь залежить від даних, навантаження та вимог до холодного старту. Нижче — три основні підходи з критеріями вибору.

Гібридна архітектура на 20–40% ефективніша за чистий CF за покриттям long-tail — перевірено на каталогах від 100k SKU.

Content-Based Filtering: коли історії взаємодій мало

Content-based рекомендує на основі характеристик товарів, а не поведінки інших користувачів — вирішує cold start для нових items. Текстові ембединги через sentence-transformers (multilingual-e5-base, BGE-M3) → пошук схожих через FAISS IndexFlatIP — запит за <5 ms на 100k товарів. Item2Vec (Word2Vec на послідовностях переглядів) дає інтерпретовані «схожі товари» за пару годин навчання.

Структуровані ознаки (категорія, бренд, ціна) подаються через embedding layers або в gradient boosting — CatBoost працює з категоріями без ручного кодування.

Чому гібридні моделі працюють краще?

Production-системи майже завжди дворівневі. Stage 1 (Retrieval) — швидкий відбір 100–500 кандидатів із 300k товарів через ALS або Two-Tower модель з векторним пошуком (FAISS, Qdrant). Stage 2 (Ranking) — важкий ранжувальник на LightGBM або нейромережі з cross-features, часом, пристроєм та контекстом сесії. LightFM — хороша відправна точка для середнього масштабу без важкої інфраструктури. Наша практика показує: перехід від single-stage до two-stage дає приріст точності на 15–25% при зростанні latency всього на 20–30 мс.

Real-Time Serving: архітектура під навантаження

Latency SLA — 50–100 ms при тисячах запитів на секунду. Base-рекомендації precompute (batch job раз на годину) → Redis по user_id → <5 ms. Real-time re-ranking через Kafka для подій (кліки, додавання в кошик) → оновлення контекстних ознак. Feature serving — Redis з TTL (кількість переглядів за 24 години, останній клікнутий item). При навантаженні 10k req/s ставимо Redis Cluster з реплікацією.

A/B тестування — єдиний достовірний спосіб оцінити покращення. Офлайн-метрики корелюють з онлайн не завжди. Kohavi et al., «Online Controlled Experiments at Large Scale» (KDD 2013) — обов'язкове читання для команди. Тест з 5–10% трафіку, моніторинг CTR, конверсії, revenue per session. Одна з наших клієнтських систем після гібридизації збільшила виручку на 18% за місяць A/B.

Терміни розробки рекомендаційної системи

Етапи та типові часові витрати — у таблиці нижче. Вартість розраховується індивідуально під масштаб каталогу та вимоги до latency.

Що входить у розробку під ключ

1. Аудит даних — щільність матриці user×item (зазвичай <0,1%), розподіл активності, temporal паттерни, cold start статистика.
2. Baseline — «популярне» як простий поріг, який часто важко перевершити.
3. Ітеративне покращення — ALS → контентні ознаки → two-stage → sequence-aware. Кожен крок з A/B.
4. Інфраструктура serving — batch precomputation, Redis, real-time re-ranking, моніторинг у Grafana.
5. Документація — model card з метриками, інструкція з деплою, опис ознак.
6. Навчання команди — сесія з інтерпретації результатів та донавчання моделі.
7. Підтримка — 1 місяць після запуску (фікс інцидентів, доналаштування pipeline).

Ми — команда з 7+ роками досвіду в рекомендаційних системах, реалізували понад 30 проєктів для e-commerce та медіа. Гарантуємо прозоре A/B-тестування та фіксацію покращення метрик.

Хочете оцінити потенціал зростання вашого каталогу? Зв'яжіться з нами для безкоштовного аудиту даних. Замовте розробку рекомендаційної системи — перший прототип протягом двох тижнів.

from implicit.als import AlternatingLeastSquares

model = AlternatingLeastSquares(
    factors=64,
    regularization=0.05,
    iterations=15,
    use_gpu=True
)
model.fit(user_item_matrix)

Більше про математику рекомендаційних систем — у Wikipedia.