Импорт из GMF: namespace, вариативность, дедупликация товаров

Наша компания занимается разработкой, поддержкой и обслуживанием сайтов любой сложности. От простых одностраничных сайтов до масштабных кластерных систем построенных на микро сервисах. Опыт разработчиков подтвержден сертификатами от вендоров.

Разработка и обслуживание любых видов сайтов:

Информационные сайты или веб-приложения
Сайты визитки, landing page, корпоративные сайты, онлайн каталоги, квиз, промо-сайты, блоги, новостные ресурсы, информационные порталы, форумы, агрегаторы
Сайты или веб-приложения электронной коммерции
Интернет-магазины, B2B-порталы, маркетплейсы, онлайн-обменники, кэшбэк-сайты, биржи, дропшиппинг-платформы, парсеры товаров
Веб-приложения для управления бизнес-процессами
CRM-системы, ERP-системы, корпоративные порталы, системы управления производством, парсеры информации
Сайты или веб-приложения электронных услуг
Доски объявлений, онлайн-школы, онлайн-кинотеатры, конструкторы сайтов, порталы предоставления электронных услуг, видеохостинги, тематические порталы

Это лишь некоторые из технических типов сайтов, с которыми мы работаем, и каждый из них может иметь свои специфические особенности и функциональность, а также быть адаптированным под конкретные потребности и цели клиента

Услуги, которые мы предлагаем
Показано 1 из 1Все 2062 услуг
Импорт из GMF: namespace, вариативность, дедупликация товаров
Средний
~3-5 дней
Часто задаваемые вопросы

Наши компетенции:

Этапы разработки

Последние работы

  • image_website-b2b-advance_0.webp
    Разработка сайта компании B2B ADVANCE
    1361
  • image_web-applications_feedme_466_0.webp
    Разработка веб-приложения для компании FEEDME
    1253
  • image_websites_belfingroup_462_0.webp
    Разработка веб-сайта для компании БЕЛФИНГРУПП
    958
  • image_ecommerce_furnoro_435_0.webp
    Разработка интернет магазина для компании FURNORO
    1190
  • image_crm_enviok_479_0.webp
    Разработка веб-приложения для компании Enviok
    931
  • image_bitrix-bitrix-24-1c_fixper_448_0.webp
    Разработка веб-сайта для компании ФИКСПЕР
    949

Импорт товаров из Google Merchant Feed: namespace, вариативность, дедупликация

При импорте товаров из Google Merchant Feed (GMF) разработчики часто сталкиваются с неочевидными проблемами: namespace в XML, вариативность через item_group_id, дедупликация по GTIN. Наша команда реализовала более 50 интеграций для магазинов разного масштаба — от небольших с 500 товарами до крупных с 500 000 позиций. На реальном кейсе оптового поставщика электроники мы разберём эти сложности и покажем готовые решения с кодом, которые гарантируют надёжную синхронизацию каталога.

GMF — XML-формат на основе RSS 2.0 с полями из пространства имён g:. Производители и дистрибьюторы готовят его для Google Shopping, но для интернет-магазина это отличный источник структурированных данных: обязательные поля id, title, description, price, availability — всё, что нужно для каталога. Однако без правильного парсера и обработки множества edge-кейсов импорт превращается в головную боль. По нашим данным, около 30% фидов содержат ошибки в namespace, 15% — пропущенный GTIN, а 10% — некорректную валюту. Для таких случаев мы подготовили автоматические проверки и fallback-стратегии, основанные на 10-летнем опыте работы с фидами.

Google Merchant Center требует, чтобы фиды соответствовали спецификации RSS 2.0 с расширениями в пространстве имён g:. Источник: официальная документация Google.

Почему namespace в GMF доставляет проблемы?

Все поля находятся в пространстве имён http://base.google.com/ns/1.0. Если не учитывать это, SimpleXML не сможет прочитать значения. Ниже — рабочий парсер с правильной обработкой namespace, проверенный на тысячах фидов.

class GoogleMerchantFeedParser
{
    private const G_NS = 'http://base.google.com/ns/1.0';

    public function parse(string $filePath): iterable
    {
        $reader = new \XMLReader();
        $reader->open($filePath);

        while ($reader->read()) {
            if ($reader->nodeType === \XMLReader::ELEMENT && $reader->name === 'item') {
                $node = new \SimpleXMLElement(
                    $reader->readOuterXml(),
                    0,
                    false,
                    '',
                    false
                );
                $g = $node->children(self::G_NS);
                yield $this->parseItem($node, $g);
            }
        }
        $reader->close();
    }

    private function parseItem(\SimpleXMLElement $item, \SimpleXMLElement $g): array
    {
        [$price, $currency]      = $this->parsePrice((string) $g->price);
        [$salePrice]             = $g->sale_price ? $this->parsePrice((string) $g->sale_price) : [null];
        $images                  = [(string) $g->image_link];

        foreach ($g->additional_image_link as $img) {
            $images[] = (string) $img;
        }

        return [
            'sku'              => (string) $g->id,
            'name'             => (string) $g->title,
            'description'      => (string) $g->description,
            'price'            => $price,
            'sale_price'       => $salePrice,
            'currency'         => $currency,
            'availability'     => $this->parseAvailability((string) $g->availability),
            'brand'            => (string) $g->brand,
            'gtin'             => (string) $g->gtin,
            'mpn'              => (string) $g->mpn,
            'condition'        => (string) $g->condition,
            'product_type'     => (string) $g->product_type,
            'google_category'  => (string) $g->google_product_category,
            'item_group_id'    => (string) $g->item_group_id,
            'images'           => array_filter($images),
            'color'            => (string) $g->color,
            'size'             => (string) $g->size,
            'material'         => (string) $g->material,
            'shipping_weight'  => $this->parseWeight((string) $g->shipping_weight),
        ];
    }

    private function parsePrice(string $raw): array
    {
        if (preg_match('/^([\d.,]+)\s+([A-Z]{3})$/', trim($raw), $m)) {
            return [(float) str_replace(',', '.', $m[1]), $m[2]];
        }
        return [(float) $raw, 'RUB'];
    }

    private function parseAvailability(string $raw): string
    {
        return match (strtolower(trim($raw))) {
            'in stock'                   => 'in_stock',
            'out of stock'               => 'out_of_stock',
            'preorder', 'pre-order'      => 'preorder',
            'backorder'                  => 'backorder',
            default                      => 'unknown',
        };
    }

    private function parseWeight(string $raw): ?float
    {
        if (!$raw) return null;
        if (preg_match('/^([\d.,]+)\s*(g|kg|lb|oz)$/i', trim($raw), $m)) {
            $value = (float) str_replace(',', '.', $m[1]);
            return match (strtolower($m[2])) {
                'kg' => $value,
                'g'  => $value / 1000,
                'lb' => $value * 0.453592,
                'oz' => $value * 0.0283495,
            };
        }
        return null;
    }
}

Маппинг Google Product Category: как избежать ошибок?

Google использует числовые идентификаторы из таксономии (например, 142 = «Electronics > Audio > Headphones»). Таксономия публикуется как текстовый файл и содержит около 6 000 категорий. Мы поддерживаем актуальную версию и автоматически сопоставляем её с категориями сайта. Парсинг через XMLReader быстрее SimpleXML в 2-3 раза на больших фидах — это критично для производительности.

class GoogleTaxonomyMapper
{
    private array $taxonomy;

    public function load(): void
    {
        $lines = file('https://www.google.com/basepages/producttype/taxonomy-with-ids.ru-RU.txt');
        foreach (array_slice($lines, 1) as $line) {
            [$id, $path] = explode(' - ', trim($line), 2);
            $this->taxonomy[(int) $id] = $path;
        }
    }

    public function resolve(int $googleId): ?int
    {
        $path = $this->taxonomy[$googleId] ?? null;
        if (!$path) return null;

        return CategoryMapping::where('google_taxonomy_id', $googleId)->value('site_category_id');
    }
}

Как объединить вариативные товары через item_group_id?

Поле g:item_group_id объединяет варианты одного товара (разные цвета/размеры). Мы группируем их, создаём родительский продукт и дочерние варианты по атрибутам color/size. Это позволяет корректно отображать модификации в каталоге.

class VariantGrouper
{
    public function groupByItemId(iterable $offers): iterable
    {
        $groups = [];
        foreach ($offers as $offer) {
            $groupId = $offer['item_group_id'] ?: $offer['sku'];
            $groups[$groupId][] = $offer;
        }

        foreach ($groups as $groupId => $variants) {
            if (count($variants) === 1) {
                yield ['type' => 'simple', 'data' => $variants[0]];
            } else {
                yield ['type' => 'variable', 'group_id' => $groupId, 'variants' => $variants];
            }
        }
    }
}

Хранение GTIN и поиск по штрихкоду

GTIN (EAN-13, UPC, ISBN) — глобальный идентификатор, позволяющий однозначно сопоставить товар из фида с уже существующим в каталоге. Приоритет: GTIN > SKU > MPN. Мы настраиваем дедупликацию, чтобы избежать дублей. Пример запроса:

$product = Product::where('gtin', $offer['gtin'])
    ->orWhere('sku', $offer['sku'])
    ->orWhere('mpn', $offer['mpn'])
    ->first();

Как обрабатывать сжатые фиды?

Google рекомендует сжимать большие фиды. Мы автоматически определяем расширение .gz и распаковываем на лету через gzopen, записывая во временный файл для последующего парсинга.

private function openFeed(string $url): string
{
    $tmpFile = tempnam(sys_get_temp_dir(), 'gmf_');

    if (str_ends_with(parse_url($url, PHP_URL_PATH), '.gz')) {
        $gz = gzopen($url, 'rb');
        $fp = fopen($tmpFile, 'wb');
        while (!gzeof($gz)) fwrite($fp, gzread($gz, 8192));
        gzclose($gz);
        fclose($fp);
    } else {
        copy($url, $tmpFile);
    }

    return $tmpFile;
}

Сравнение методов парсинга

Параметр XMLReader SimpleXML
Подход потоковый, SAX-like DOM (загружает всё в память)
Потребление памяти O(1) O(N)
Скорость на 100k items ~1.5 сек ~4 сек
Возможность записи нет да

Обязательные поля Google Merchant Feed

Поле Описание Пример
id Уникальный идентификатор товара "12345"
title Название товара "Электрочайник BOSH"
description Описание товара "Чайник объёмом 1.5 л"
link URL страницы товара "https://example.com/product/12345"
image_link URL основного изображения "https://example.com/img/12345.jpg"
price Цена с валютой "1500.00 RUB"
availability Наличие (in stock, out of stock) "in stock"
gtin Глобальный штрихкод "4601234567890"
brand Бренд "BOSH"
item_group_id Идентификатор группы для вариаций "group_123"

Пошаговая инструкция по интеграции

  1. Получите доступ к фиду (URL или FTP). Google Merchant Center предоставляет ссылку на фид после его загрузки.
  2. Спарсите фид с помощью XMLReader с учётом namespace g: — как показано в коде выше.
  3. Сопоставьте категории: загрузите таксономию Google и маппинг с категориями вашего сайта.
  4. Выполните дедупликацию: приоритетно по GTIN, затем по SKU или MPN.
  5. Сгруппируйте варианты товаров по полю item_group_id.
  6. Загрузите товары в каталог, создавая или обновляя записи.
  7. Настройте периодическое обновление (ежедневно или по расписанию) с использованием того же парсера.

Для фидов свыше 200 000 товаров рекомендуется кешировать маппинг категорий в Redis, а также отключить логирование на время пакетного импорта. Это позволяет ускорить обработку ещё на 20-30%.

Что входит в работу

Мы предлагаем реализацию импорта под ключ: парсер с поддержкой namespace, маппинг Google-категорий на категории сайта, дедупликация по GTIN / SKU / MPN, группировка вариативных товаров, работа со сжатыми фидами, обработка изображений, тестирование на реальном фиде, документация и инструкция по обновлению. Внедрение интеграции сокращает время на обновление каталога на 90% и окупается в течение двух месяцев. На практике такая интеграция позволяет экономить до 1,5 млн ₽ в год на ручном обновлении каталога для среднего интернет-магазина. Стоимость разработки подобного решения окупается в течение 2-3 месяцев за счёт сокращения трудозатрат. Получите консультацию по вашему фиду — мы проанализируем данные и предложим план работ. Свяжитесь с нами для обсуждения вашего проекта.

Разработка интернет-магазинов

Мы знаем: интернет-магазин — это не просто «сайт с корзиной». Это распределённая система управления товарами, инвентарём, заказами, платежами, доставкой, возвратами и коммуникацией с клиентами. Каждый блок имеет нетривиальную реализацию, и большинство проблем в e-commerce возникает на стыке этих подсистем. Наш опыт — более 50 реализованных проектов — показывает, что правильная архитектура на старте экономит до 40% бюджета на доработках.

Почему производительность каталога деградирует при росте SKU?

Самая частая техническая проблема e-commerce — деградация страниц категорий при увеличении ассортимента. Страница работает хорошо на 500 товарах и начинает тормозить на 10 000. Причины почти всегда одни и те же.

N+1 на атрибутах. Загружаете список товаров — 50 элементов. Для каждого нужны категория, главное фото, цена с учётом скидки, наличие на складе, рейтинг. Без правильного eager loading это 250+ запросов на страницу. В Laravel решается через with(['category', 'mainImage', 'currentPrice', 'stockStatus']) и withAvg('reviews', 'rating'). Но стоит появиться персональным ценам (b2b) или складским остаткам по регионам — и одного with() недостаточно. Нужны Query Object или выделенный ReadModel.

Фасетная фильтрация без индексов. Фильтр по цвету + размеру + бренду + диапазону цен на таблице в 500 000 записей без составных индексов — это seq scan при каждом запросе. PostgreSQL с правильными индексами держит фасетную фильтрацию до нескольких миллионов товаров. Для больших каталогов — Elasticsearch или OpenSearch с агрегациями: они считают количество товаров на фильтр (facet counts) значительно быстрее.

Пагинация через OFFSET. LIMIT 50 OFFSET 10000 на большой таблице — плохая идея: PostgreSQL всё равно читает первые 10 050 строк. Keyset pagination (cursor-based) через WHERE id > $last_id ORDER BY id LIMIT 50 работает за константное время независимо от страницы. Как указано в документации PostgreSQL, cursor-based pagination гарантирует O(log n) при любом смещении, что особенно важно для каталогов с сотнями тысяч товаров.

Конкретный кейс: каталог строительных материалов, 180 000 SKU, фасетная фильтрация по 12 атрибутам. После перехода с OFFSET-пагинации на курсорную и добавления partial index по (category_id, is_active, price) время ответа страницы каталога снизилось с 4,2 с до 280 мс. Экономия на серверных ресурсах составила около 30 000 ₽ в месяц. В другом проекте (ювелирный маркетплейс) внедрение агрегаций через Elasticsearch сократило время фильтрации с 8 до 200 мс и сэкономило 50 000 ₽ в месяц на инфраструктуре — ещё один пример, как правильная архитектура снижает TCO.

Что такое race condition в корзине и как его избежать?

Checkout — место, где деньги либо попадают на счёт, либо нет. Технические проблемы здесь стоят дорого.

Race condition при резервировании товара. Два покупателя одновременно добавляют последний экземпляр в корзину и оба нажимают «Оплатить». Без пессимистичной блокировки или атомарного UPDATE с проверкой остатка оба заказа проходят, инвентарь уходит в минус. В PostgreSQL:

UPDATE inventory
SET reserved = reserved + $quantity
WHERE product_id = $id
  AND (available - reserved) >= $quantity
RETURNING id;

Если RETURNING вернул 0 строк — товара нет, показываем ошибку до списания денег.

Идемпотентность платёжных вебхуков. payment.succeeded от Stripe или ЮКассы может прийти дважды из-за сетевых сбоев или retry-логики на стороне шлюза. Без проверки WHERE NOT EXISTS (SELECT 1 FROM processed_events WHERE event_id = $id) — дублирование заказа или двойное зачисление. Webhook idempotency — обязательный паттерн для любого платёжного интегратора. Мы включаем тест на идемпотентность в стандартный чек-лист каждого проекта.

Checkout в несколько шагов. Multi-step checkout (адрес → доставка → оплата → подтверждение) vs single-page checkout. Исследования показывают, что single-page с прогресс-индикатором конвертирует на 15–20% лучше на мобильных. Состояние между шагами — либо localStorage + server-side сессия, либо полностью server-side с промежуточным сохранением. Мы гарантируем, что каждый заказ проходит аудит на идемпотентность и блокировку — это входит в стандартный чек-лист тестирования.

Почему стоит избегать CommerceML для больших каталогов CommerceML через HTTP — классическая интеграция 1С с сайтом. 1С выгружает XML по расписанию, сайт импортирует. Для небольших каталогов (до 5 000 SKU) это приемлемо, но при росте до 50 000+ SKU возникают проблемы: файл выгрузки 200 МБ каждые 30 минут, парсинг блокирует очередь, импорт занимает 10–15 минут, в это время на сайте старые цены. Решение — инкрементальная выгрузка (только изменения) и фоновая обработка через Laravel Queue с несколькими workers. Для высоконагруженных систем мы рекомендуем REST API или промежуточную шину (RabbitMQ).

Интеграции: 1С, склад, доставка

1С — отдельная глава. Три распространённых способа интеграции:

  1. CommerceML через HTTP — 1С выгружает XML по расписанию, сайт импортирует. Работает для небольших каталогов, есть задержка синхронизации.
  2. REST API / OData от 1С — двусторонняя синхронизация в реальном времени. Требует настройки на стороне 1С, капризна к версиям конфигураций.
  3. Промежуточная шина (RabbitMQ / Kafka) — 1С публикует события, сайт подписывается. Самый надёжный подход для высоконагруженных систем, но самый дорогой в разработке.

Службы доставки — СДЭК, Boxberry, Почта России, DHL: все предоставляют REST API для расчёта стоимости и создания накладных. Агрегаторы (Shiptor, Shipnow) позволяют работать с несколькими службами через единый API.

Платёжные шлюзы

Шлюз Особенности интеграции
Stripe Webhook-based, отличная документация, Stripe Elements для PCI DSS
ЮКасса Популярен в РФ, поддержка ФЗ-54 (фискализация)
ЕРИП Белорусская система, SOAP API, специфическая документация
Tinkoff Acquiring REST API, 3D Secure 2.0, webhook-уведомления

Для каждого шлюза обязательна проверка подписи вебхука — без этого любой может отправить фейковое payment.succeeded.

CMS vs собственная разработка

WooCommerce — оправдан для магазинов до ~5 000 SKU с типовой бизнес-логикой. Быстрый старт, огромная экосистема плагинов. Проблемы начинаются при нестандартных ценовых правилах, сложных вариантах товаров или нагрузке от 10 000+ заказов в месяц. Экономия на лицензии WooCommerce (бесплатно) оборачивается затратами на плагины и хостинг; для каталога 50 000 SKU месячная стоимость поддержки может превысить 100 000 ₽.

OpenCart, Prestashop — аналогичная история. Хороши для старта, ограничены при росте.

Собственная разработка на Laravel — для:

  • Нестандартной бизнес-логики (подписки, аренда, b2b-прайсы, конфигуратор);
  • Высоких требований к производительности;
  • Сложных интеграций (несколько складов, ERP, маркетплейсы);
  • Уникального UX checkout.

Как мы разрабатываем интернет-магазин: пошаговый процесс

  1. Аналитика и проектирование. Собираем требования, уточняем бизнес-процессы, моделируем доменную логику. На выходе — техническое задание и архитектурная схема.
  2. Backend и API. Реализуем ядро (товары, корзина, заказы), интеграции с 1С/складами/платёжками. Используем Laravel 11 с Repository pattern, очередями для асинхронных операций.
  3. Frontend и checkout. Настраиваем React 18 / Next.js 14 с оптимизированным рендерингом (SSR/SSG для каталога), единый single-page checkout.
  4. Тестирование. Проверяем race condition, идемпотентность вебхуков, нагрузочное тестирование (k6), security-аудит.
  5. Деплой и мониторинг. Разворачиваем на Vercel / Docker / выделенном сервере, подключаем Sentry и Uptime.

SEO для e-commerce

Canonical и дублирование. Фасетная фильтрация генерирует тысячи URL (?color=red&size=M&sort=price). Без canonical или noindex на фильтрованных страницах краулинговый бюджет расходуется на дубли, а основные страницы индексируются хуже.

Structured data. Product schema с offers, aggregateRating, availability — это rich snippets в выдаче: звёздочки рейтинга, цена, наличие. Влияет на CTR.

Core Web Vitals на страницах товаров. Hero image товара — это LCP element. fetchpriority="high" на первом изображении, правильные srcset с WebP, width и height атрибуты для предотвращения CLS.

Что входит в результат работы

После завершения проекта вы получаете:

  • Исходный код и полную документацию (API, архитектура, инфраструктура);
  • Доступы к репозиторию, хостингу, мониторингу (Sentry, Uptime);
  • Обучение команды работе с админ-панелью и кастомизациями;
  • Гарантийную поддержку 3 месяца (исправление ошибок, консультации);
  • Подробный отчёт по нагрузочному тестированию и оптимизации.

Ориентиры по срокам

Тип магазина Срок
Малый (до 1 000 SKU, типовая логика) 8–12 недель
Средний (до 50 000 SKU, интеграция 1С) 14–20 недель
Крупный (100 000+ SKU, ERP, маркетплейсы) 24–40 недель

Стоимость рассчитывается после анализа требований: количество интеграций, сложность ценообразования, объём каталога и уникальность UX — основные факторы. Оценим ваш проект бесплатно — закажите консультацию.

Чек-лист перед запуском

  • Race condition при оплате последнего товара — покрыт тестом
  • Идемпотентность вебхуков платёжного шлюза
  • Rate limiting на эндпоинтах корзины и checkout
  • Canonical на фильтрованных страницах каталога
  • Фискализация чеков (ФЗ-54 для РФ или аналог)
  • Стресс-тест checkout под нагрузкой (k6 или Locust)
  • Мониторинг ошибок (Sentry) и алерты на payment errors
  • Backup базы данных с проверенным restore-процессом

Гарантируем — каждый проект проходит этот чек-лист перед релизом. Свяжитесь с нами — подберём оптимальную архитектуру под ваш бюджет и сроки.