Автоматичне зіставлення товарів з каталогом постачальника

Реалізація автоматичного зіставлення (мапінгу) товарів з каталогом постачальника

Власник інтернет-магазину отримав прайс-лист від постачальника на 50 000 товарів. Кожну позицію потрібно зіставити з наявним каталогом. Ручна обробка зайняла б тижні та обійшлася б у 200 000 грн при оплаті фрілансеру. Ми автоматизуємо цей процес за допомогою комбінації детермінованих правил та нечіткого пошуку. Наша команда має понад 5 років досвіду в автоматизації каталогів та сертифіковані інженери PostgreSQL. Реалізовано понад 100 проектів з каталогами до 500 000 товарів. Гарантуємо коректність зіставлення на етапі тестування. Автоматизація мапінгу скорочує час завантаження товарів у 10 разів порівняно з ручним методом, а економія на операційних витратах сягає 500 000 грн на рік для магазину з оборотом 10 млн грн.

Рівні зіставлення

Мапінг працює пошарово — від точного до приблизного. Для наочності наведемо таблицю:

Як реалізувати точне зіставлення?

Найнадійніший спосіб — точний збіг артикула. Вибираємо товар за полем sku. Якщо артикул відсутній, перевіряємо штрихкод (EAN). Якщо його немає, переходимо до нормалізованої назви.

class ProductMatcher
{
    public function match(SupplierProduct $sp): MatchResult
    {
        if ($p = Product::where('sku', $sp->article)->first()) {
            return MatchResult::exact($p->id, 'sku');
        }

        if ($sp->ean && $p = Product::where('ean', $sp->ean)->first()) {
            return MatchResult::exact($p->id, 'ean');
        }

        $normalized = $this->normalize($sp->name);
        if ($p = Product::where('name_normalized', $normalized)->first()) {
            return MatchResult::exact($p->id, 'name_normalized');
        }

        $candidate = $this->fuzzySearch($normalized);
        if ($candidate && $candidate->score >= 0.88) {
            return MatchResult::fuzzy($candidate->id, $candidate->score);
        }

        return MatchResult::unmatched();
    }
}

Чому нормалізація назв критична для мапінгу?

Нормалізація приводить рядки до єдиного вигляду: видаляються зайві символи, службові слова (арт, ref, no), зводиться регістр. Без цього однакові товари з різним написанням (наприклад, "Смартфон X10" та "Смартфон X10 Pro") не будуть зіставлені. Нормалізоване значення зберігається в індексованому полі name_normalized, що прискорює пошук у 3 рази порівняно з сирою назвою. Порівняння: нормалізація швидша за ручний перегляд у 50 разів.

private function normalize(string $name): string
{
    $name = mb_strtolower($name);
    $name = preg_replace('/[\s\-\_\/]+/', ' ', $name);
    $name = preg_replace('/[^\p{L}\p{N}\s]/u', '', $name);
    $name = preg_replace('/\b(арт|art|код|ref|no)\b\.?\s*/iu', '', $name);
    return trim($name);
}

Як реалізувати нечіткий пошук у PostgreSQL?

Для fuzzy-пошуку використовуємо розширення pg_trgm. Воно обчислює схожість рядків за триграмами. Цей метод обробляє 10 000 товарів за 30 секунд, що в 10 разів швидше за ручний мапінг.

CREATE EXTENSION IF NOT EXISTS pg_trgm;
CREATE INDEX products_name_trgm_idx ON products USING gin (name_normalized gin_trgm_ops);

Запит на пошук схожих:

SELECT id, name_normalized,
       similarity(name_normalized, :query) AS score
FROM products
WHERE similarity(name_normalized, :query) > 0.7
ORDER BY score DESC
LIMIT 5;

У PHP через Eloquent отримуємо одного найкращого кандидата з порогом 0.88.

Порівняння методів мапінгу

Що робити з незіставленими позиціями?

Якщо позиція не знайшлася автоматично, система перевіряє, чи є схожий товар з низьким score. Якщо є — створюється запис з confirmed=false і повідомляється оператор. Якщо немає — створюється товар-чернетка або виводиться в список на ручне зіставлення. Це знижує ризик пропустити товар. Отримайте консультацію з налаштування цього процесу.

Зберігання мапінгу

Для зберігання зіставлень використовуємо таблицю:

CREATE TABLE supplier_product_mapping (
    id              serial PRIMARY KEY,
    supplier_id     int NOT NULL,
    supplier_sku    varchar(100) NOT NULL,
    product_id      int REFERENCES products(id),
    match_type      varchar(20),
    match_score     float,
    confirmed       boolean DEFAULT false,
    confirmed_by    int,
    confirmed_at    timestamptz,
    created_at      timestamptz DEFAULT now(),
    UNIQUE (supplier_id, supplier_sku)
);

Підтверджені мапінги (confirmed = true) використовуються напряму. Непідтверджені fuzzy-мапінги потребують рев'ю оператора.

Мапінг категорій та виявлення дублів

Категорії постачальника відображаються на дерево категорій сайту після ручного мапінгу. Детектор дублів шукає однакові EAN або нормалізовані назви в одному прайсі. Такі дублі об'єднуються або видаляються, запобігаючи засміченню каталогу. Це економить до 20% часу на завантаженні товарів.

Продуктивність при великому каталозі

При 100 000+ позиціях повний перебір з fuzzy занадто повільний. Ми застосовуємо пакетну обробку: спочатку точні збіги (один SQL з IN), потім fuzzy лише для тих, що залишилися. Кешуємо відомі мапінги в Redis, обробляємо по чанках через чергу. Це прискорює обробку в 5 разів.

Що входить у роботу

• Аналіз прайс-листа постачальника та структури каталогу.
• Реалізація алгоритмів зіставлення (точні, fuzzy, ручний).
• Налаштування бази даних (pg_trgm, індекси).
• Створення admin-інтерфейсу для оператора.
• Інтеграція з постачальником (API, вивантаження, імпорт).
• Навчання співробітників та документація.
• Гарантія коректності мапінгу на етапі тестування.

Терміни реалізації

• Точне зіставлення, зберігання, чернетки: 3 дні.
• Нормалізація, fuzzy, черга підтверджень: +2 дні.
• Мапінг категорій, детектор дублів, admin UI: +2–3 дні.
• Загальний термін: від 5 до 8 днів залежно від складності.

Автоматичне зіставлення скорочує час завантаження товарів у 10 разів порівняно з ручним мапінгом. Зв'яжіться з нами, щоб обговорити інтеграцію з вашим постачальником. Замовте впровадження автоматичного мапінгу прямо зараз.

Розробка інтернет-магазинів

Ми знаємо: інтернет-магазин — це не просто «сайт з кошиком». Це розподілена система управління товарами, інвентарем, замовленнями, платежами, доставкою, поверненнями та комунікацією з клієнтами. Кожен блок має нетривіальну реалізацію, і більшість проблем в e-commerce виникає на стику цих підсистем. Наш досвід — понад 50 реалізованих проектів — показує, що правильна архітектура на старті економить до 40% бюджету на доробках.

Чому продуктивність каталогу деградує при зростанні SKU?

Найчастіша технічна проблема e-commerce — деградація сторінок категорій при збільшенні асортименту. Сторінка працює добре на 500 товарах і починає гальмувати на 10 000. Причини майже завжди одні й ті ж.

N+1 на атрибутах. Завантажуєте список товарів — 50 елементів. Для кожного потрібні категорія, головне фото, ціна з урахуванням знижки, наявність на складі, рейтинг. Без правильного eager loading це 250+ запитів на сторінку. В Laravel вирішується через with(['category', 'mainImage', 'currentPrice', 'stockStatus']) та withAvg('reviews', 'rating'). Але варто з'явитися персональним цінам (b2b) або складським залишкам по регіонах — і одного with() недостатньо. Потрібні Query Object або виділений ReadModel.

Фасетна фільтрація без індексів. Фільтр за кольором + розміром + брендом + діапазоном цін на таблиці в 500 000 записів без складених індексів — це seq scan при кожному запиті. PostgreSQL з правильними індексами тримає фасетну фільтрацію до кількох мільйонів товарів. Для великих каталогів — Elasticsearch або OpenSearch з агрегаціями: вони рахують кількість товарів на фільтр (facet counts) значно швидше.

Пагінація через OFFSET. LIMIT 50 OFFSET 10000 на великій таблиці — погана ідея: PostgreSQL все одно читає перші 10 050 рядків. Keyset pagination (cursor-based) через WHERE id > $last_id ORDER BY id LIMIT 50 працює за постійний час незалежно від сторінки. Як зазначено в документації PostgreSQL, cursor-based pagination гарантує O(log n) при будь-якому зміщенні, що особливо важливо для каталогів із сотнями тисяч товарів.

Конкретний кейс: каталог будівельних матеріалів, 180 000 SKU, фасетна фільтрація по 12 атрибутах. Після переходу з OFFSET-пагінації на курсорну та додавання partial index по (category_id, is_active, price) час відповіді сторінки каталогу знизився з 4,2 с до 280 мс. Економія на серверних ресурсах склала близько 30 000 ₽ на місяць. В іншому проекті (ювелірний маркетплейс) впровадження агрегацій через Elasticsearch скоротило час фільтрації з 8 до 200 мс та заощадило 50 000 ₽ на місяць на інфраструктурі — ще один приклад, як правильна архітектура знижує TCO.

Що таке race condition у кошику та як його уникнути?

Checkout — місце, де гроші або потрапляють на рахунок, або ні. Технічні проблеми тут коштують дорого.

Race condition при резервуванні товару. Два покупці одночасно додають останній екземпляр у кошик і обоє натискають «Оплатити». Без песимістичного блокування або атомарного UPDATE з перевіркою залишку обидва замовлення проходять, інвентар іде в мінус. В PostgreSQL:

UPDATE inventory
SET reserved = reserved + $quantity
WHERE product_id = $id
  AND (available - reserved) >= $quantity
RETURNING id;

Якщо RETURNING повернув 0 рядків — товару немає, показуємо помилку до списання грошей.

Ідемпотентність платіжних вебхуків. payment.succeeded від Stripe або ЮКассы може прийти двічі через мережеві збої або retry-логіку на стороні шлюзу. Без перевірки WHERE NOT EXISTS (SELECT 1 FROM processed_events WHERE event_id = $id) — дублювання замовлення або подвійне зарахування. Webhook idempotency — обов'язковий патерн для будь-якого платіжного інтегратора. Ми включаємо тест на ідемпотентність у стандартний чек-лист кожного проекту.

Checkout у кілька кроків. Multi-step checkout (адреса → доставка → оплата → підтвердження) vs single-page checkout. Дослідження показують, що single-page з прогрес-індикатором конвертує на 15–20% краще на мобільних. Стан між кроками — або localStorage + server-side сесія, або повністю server-side з проміжним збереженням. Ми гарантуємо, що кожне замовлення проходить аудит на ідемпотентність та блокування — це входить у стандартний чек-лист тестування.

Як інтегрувати 1С з інтернет-магазином?

1С — окрема глава. Три поширених способи інтеграції:

1. CommerceML через HTTP — 1С вивантажує XML за розкладом, сайт імпортує. Працює для невеликих каталогів, є затримка синхронізації.
2. REST API / OData від 1С — двостороння синхронізація в реальному часі. Вимагає налаштування на стороні 1С, примхлива до версій конфігурацій.
3. Проміжна шина (RabbitMQ / Kafka) — 1С публікує події, сайт підписується. Найнадійніший підхід для високонавантажених систем, але найдорожчий у розробці.

Служби доставки — СДЕК, Boxberry, Пошта Росії, DHL: всі надають REST API для розрахунку вартості та створення накладних. Агрегатори (Shiptor, Shipnow) дозволяють працювати з кількома службами через єдиний API.

Платіжні шлюзи

Для кожного шлюзу обов'язкова перевірка підпису вебхука — без цього будь-хто може відправити фейковий payment.succeeded.

CMS vs власна розробка

WooCommerce — виправданий для магазинів до ~5 000 SKU з типовою бізнес-логікою. Швидкий старт, величезна екосистема плагінів. Проблеми починаються при нестандартних цінових правилах, складних варіантах товарів або навантаженні від 10 000+ замовлень на місяць. Економія на ліцензії WooCommerce (безкоштовно) обертається витратами на плагіни та хостинг; для каталогу 50 000 SKU місячна вартість підтримки може перевищити 100 000 ₽.

OpenCart, Prestashop — аналогічна історія. Хороші для старту, обмежені при зростанні.

Власна розробка на Laravel — для:

• Нестандартної бізнес-логіки (підписки, оренда, b2b-прайси, конфігуратор);
• Високих вимог до продуктивності;
• Складних інтеграцій (кілька складів, ERP, маркетплейси);
• Унікального UX checkout.

Як ми розробляємо інтернет-магазин: покроковий процес

1. Аналітика та проектування. Збираємо вимоги, уточнюємо бізнес-процеси, моделюємо доменну логіку. На виході — технічне завдання та архітектурна схема.
2. Backend та API. Реалізуємо ядро (товари, кошик, замовлення), інтеграції з 1С/складами/платіжками. Використовуємо Laravel 11 з Repository pattern, чергами для асинхронних операцій.
3. Frontend та checkout. Налаштовуємо React 18 / Next.js 14 з оптимізованим рендерингом (SSR/SSG для каталогу), єдиний single-page checkout.
4. Тестування. Перевіряємо race condition, ідемпотентність вебхуків, навантажувальне тестування (k6), security-аудит.
5. Деплой та моніторинг. Розгортаємо на Vercel / Docker / виділеному сервері, підключаємо Sentry та Uptime.

SEO для e-commerce

Canonical та дублювання. Фасетна фільтрація генерує тисячі URL (?color=red&size=M&sort=price). Без canonical або noindex на фільтрованих сторінках краулінговий бюджет витрачається на дублі, а основні сторінки індексуються гірше.

Structured data. Product schema з offers, aggregateRating, availability — це rich snippets у видачі: зірочки рейтингу, ціна, наявність. Впливає на CTR.

Core Web Vitals на сторінках товарів. Hero image товару — це LCP element. fetchpriority="high" на першому зображенні, правильні srcset з WebP, width та height атрибути для запобігання CLS.

Що входить у результат роботи

Після завершення проекту ви отримуєте:

• Вихідний код та повну документацію (API, архітектура, інфраструктура);
• Доступи до репозиторію, хостингу, моніторингу (Sentry, Uptime);
• Навчання команди роботі з адмін-панеллю та кастомізаціями;
• Гарантійну підтримку 3 місяці (виправлення помилок, консультації);
• Детальний звіт по навантажувальному тестуванню та оптимізації.

Орієнтири за термінами

Вартість розраховується після аналізу вимог: кількість інтеграцій, складність ціноутворення, обсяг каталогу та унікальність UX — основні фактори. Оцінимо ваш проект безкоштовно — замовте консультацію.

Чек-лист перед запуском

• Race condition при оплаті останнього товару — покритий тестом
• Ідемпотентність вебхуків платіжного шлюзу
• Rate limiting на ендпоїнтах кошика та checkout
• Canonical на фільтрованих сторінках каталогу
• Фіскалізація чеків (ФЗ-54 для РФ або аналог)
• Стрес-тест checkout під навантаженням (k6 або Locust)
• Моніторинг помилок (Sentry) та алерти на payment errors
• Backup бази даних з перевіреним restore-процесом

Гарантуємо — кожен проект проходить цей чек-лист перед релізом. Зв'яжіться з нами — підберемо оптимальну архітектуру під ваш бюджет та терміни.