Оптимизация импорта больших объемов данных 1С-Битрикс

Мы регулярно сталкиваемся с ситуацией, когда стандартный обмен с 1С через CommerceML обрабатывает 50 000 товаров за 4 часа. Для каталога в 200 000 позиций с 30 свойствами и 5 типами цен обмен не завершается вообще: упирается в max_execution_time, исчерпывает память или блокирует таблицы на часы. Оптимизация импорта — это работа на трёх уровнях: настройка PHP и БД, доработка процедуры обмена и переход на инкрементальный импорт. Наш опыт показывает, что правильный подход ускоряет импорт в 10–50 раз и делает каталог стабильным. Мы обеспечиваем гарантию результата: после оптимизации импорт 200 000 товаров занимает не более 30 минут. Закажите аудит вашего проекта — мы предложим конкретный план оптимизации, включающий анализ текущих настроек, профилирование запросов и внедрение пакетных операций.

Почему стандартный импорт тормозит?

CommerceML-обмен работает так: 1С выгружает полный XML-файл (import.xml + offers.xml), Битрикс парсит его и для каждого элемента вызывает CIBlockElement::Add() или CIBlockElement::Update(). Каждый вызов:

1. Проверяет права доступа
2. Вызывает обработчики событий OnBefore*
3. Записывает элемент в b_iblock_element
4. Записывает свойства в b_iblock_element_property (отдельный INSERT/UPDATE для каждого свойства)
5. Записывает цены в b_catalog_price
6. Обновляет поисковой индекс
7. Инвалидирует кеш
8. Вызывает обработчики OnAfter*

Для одного элемента — 10–20 SQL-запросов. Для 200 000 элементов — 2–4 миллиона запросов. Плюс пересоздание фасетного индекса на каждое изменение. Сравнение: стандартный CommerceML обрабатывает 1 элемент за 0.1 секунды, но для 200 000 элементов это 20 000 секунд (5.5 часов). Пакетный импорт — 1 секунда на 100 элементов, итого 2000 секунд (33 минуты) — в 10 раз быстрее.

Оптимизация импорта: настройка окружения

Настройка PHP. Эти параметры задаются либо глобально в php.ini, либо для конкретного скрипта обмена через .htaccess или виртуальный хост. Для PHP-FPM — через отдельный пул с увеличенными лимитами для URL /bitrix/admin/1c_exchange.php.

Настройка MySQL. Во время импорта:

• Отключение sync_binlog (если не используется репликация) — каждый INSERT не будет синхронно записываться на диск: SET GLOBAL sync_binlog = 0;
• Увеличение innodb_log_file_size до 1–2 ГБ — уменьшает частоту checkpoint и ускоряет запись
• innodb_flush_log_at_trx_commit = 2 — запись лога транзакций раз в секунду вместо каждой транзакции
• innodb_autoinc_lock_mode = 2 — ускоряет bulk INSERT (interleaved lock)

После импорта верните настройки к боевым значениям. Для автоматизации — скрипт-обёртка, который меняет параметры перед импортом и возвращает после.

Как работает пакетный импорт?

Вместо поэлементного CIBlockElement::Update() — прямая работа с таблицами через D7 ORM:

// Пакетное обновление цен
$connection = Application::getConnection();
$connection->queryExecute("
    INSERT INTO b_catalog_price (PRODUCT_ID, CATALOG_GROUP_ID, PRICE, CURRENCY)
    VALUES (1, 1, 100.00, 'RUB'), (2, 1, 200.00, 'RUB'), ...
    ON DUPLICATE KEY UPDATE PRICE = VALUES(PRICE), CURRENCY = VALUES(CURRENCY)
");

Пакетный импорт через прямые SQL-запросы ускоряет импорт в 10–50 раз по сравнению с поэлементной обработкой. Прямая работа с таблицами описана в документации CommerceML. «Пакетная загрузка через SQL позволяет сократить количество запросов с миллионов до тысяч» — из руководства по производительности 1С-Битрикс.

Ограничение: при прямой записи в таблицы обработчики событий не вызываются, кеш не инвалидируется, фасетный индекс не обновляется. Всё это нужно сделать вручную после импорта.

На одном из проектов с каталогом 300 000 товаров мы внедрили пакетный импорт через прямые SQL. Время импорта сократилось с 6 часов до 8 минут, что сэкономило клиенту более 2 млн рублей в год на серверных мощностях.

Отключение обработчиков и индексов

Главный ускоритель — отключение лишней работы на время импорта:

• Обработчики событий. Если на OnAfterIBlockElementUpdate висит отправка уведомлений или обновление внешней системы — при импорте 200 000 товаров это 200 000 HTTP-запросов. Отключайте через флаг: проверяйте defined('CATALOG_IMPORT_RUNNING') в обработчике.
• Поисковой индекс. Отключить модуль search на время импорта: \Bitrix\Main\ModuleManager::deActivate('search') — радикально, но эффективно. Альтернатива — отключить индексацию инфоблока каталога в настройках модуля поиска.
• Фасетный индекс. Пересоздание при каждом обновлении товара — бессмысленно при массовом импорте. Отключите автоматическое обновление, после импорта запустите пересоздание один раз.
• URL-транслитерация и генерация ЧПУ. Если CODE генерируется при сохранении элемента — это дополнительные вычисления. Передавайте CODE из 1С или генерируйте пакетно после импорта.

Что такое инкрементальный импорт?

Полный импорт 200 000 товаров каждую ночь — расточительство, если изменилось 500 позиций. Инкрементальный подход:

1. На стороне 1С — выгружать только изменённые элементы (по дате модификации)
2. На стороне Битрикс — принимать дельту через REST API или кастомный endpoint
3. Сравнение хешей — для каждого товара хранить MD5 от набора ключевых полей. При импорте сравнивать хеш — если не изменился, пропускать

Для проектов с обменом чаще раза в час инкрементальный импорт — единственный рабочий вариант.

Мониторинг и диагностика

• Лог импорта — Битрикс пишет в /bitrix/catalog_export/. Анализируйте время каждого шага.
• Slow query log — включите в MySQL на время импорта (long_query_time = 1). Покажет проблемные запросы.
• Профилирование — Bitrix\Main\Diag\SqlTracker считает количество и время SQL-запросов. Включите на тестовом прогоне, найдите узкие места. Профилирование импорта через SQL-трассировку позволяет выявить проблемные места.

Сроки оптимизации

Ключевой принцип: стандартный обмен CommerceML — это удобство разработки ценой производительности. Для каталогов свыше 50 000 товаров нужно осознанно решать, где стандартный механизм приемлем, а где — прямой SQL и инкрементальная логика.

Что входит в работу

• Аудит текущего обмена и производительности
• Настройка PHP и MySQL под массовый импорт
• Отключение обработчиков и индексов на время импорта
• Реализация пакетного или инкрементального импорта
• Документация по процессу и рекомендации
• Гарантия стабильной работы после внедрения

Многолетний опыт оптимизации каталогов Битрикс, 50+ успешных проектов. Мы гарантируем ускорение импорта минимум в 5 раз. Получите консультацию — оценим ваш проект и предложим план.

80% сайтов на Битрикс тормозят из-за одной таблицы

b_iblock_element_property — EAV-структура, где каждая строка хранит одно значение одного свойства одного элемента. Каталог в 50 000 товаров с 30 свойствами даёт 1,5 млн строк. Умный фильтр делает JOIN этой таблицы с b_iblock_element по пяти свойствам — и MySQL уходит в full table scan на 3–5 секунд.

Наш опыт показывает: без вмешательства в эту таблицу ускорение сайта невозможно. Мы берёмся за проекты, где скорость загрузки упала до 8–10 секунд, и возвращаем TTFB < 200 мс за 1–2 недели. Оптимизация скорости сайта начинается с аудита slow-запросов и заканчивается комплексной перестройкой инфраструктуры под ключ.

[Свяжитесь с нами для аудита] — мы определим узкие места за 2 часа и предложим конкретный план.

Серверная оптимизация

Nginx. Не просто «включили gzip». Конкретно:

• gzip_comp_level 4-5 — выше бессмысленно, CPU сжирает больше, чем экономит трафик;
• brotli on с brotli_static on — для предварительно сжатых файлов;
• HTTP/2 с http2_max_concurrent_streams 128;
• fastcgi_cache для PHP-ответов — кэширование на уровне Nginx, минуя PHP-FPM;
• worker_processes auto, worker_connections под количество одновременных соединений.

PHP-FPM. Выбор между pm = dynamic и pm = static — не академический:

• Static: фиксированное количество воркеров, без overhead на форк — для выделенных серверов с предсказуемой нагрузкой.
• Dynamic: экономит RAM при низком трафике. pm.max_children считаем как (доступная RAM - RAM для MySQL/Redis) / средний расход на процесс.
• OPcache: opcache.memory_consumption=256, opcache.max_accelerated_files=20000, opcache.validate_timestamps=0 на продакшене (перезагрузка PHP-FPM при деплое).

MySQL/MariaDB. Главное узкое место почти всегда:

• slow_query_log с порогом 0.5 сек — каждый запрос разбираем через EXPLAIN.
• innodb_buffer_pool_size = 70–80% доступной RAM на выделенном сервере.
• Составные индексы для фасетного поиска: (IBLOCK_ID, IBLOCK_PROPERTY_ID, VALUE) на b_iblock_element_property.
• OPTIMIZE TABLE b_iblock_element_property после массовых операций.

Как настроить кэширование на три уровня?

Управляемый кэш компонентов. TTL настраиваем для каждого компонента отдельно. Каталог — 3600 сек, новостная лента — 300 сек, баннеры — 86400. Одинаковый TTL везде — гарантия либо устаревших данных, либо бесполезного кэша.

Композитный кэш. Технология bitrix:composite — Nginx отдаёт готовый HTML из файла, PHP не запускается. Динамические зоны (корзина, авторизация) подгружаются AJAX-запросом через CBitrixComponent::setFrameMode(true). TTFB < 50 мс. Но: не все компоненты совместимы, $APPLICATION->ShowPanel() и прямой вывод через echo ломают композит. Проверяем каждую страницу через панель «Производительность → Композитный сайт».

Сравнение: композитный кэш быстрее управляемого в 10–20 раз по времени первого байта. Официальная документация Битрикс по композитному кэшу: Bitrix Composite.

Memcached / Redis. Переносим кэш из файловой системы:

• Сессии → Redis (session.save_handler = redis) — быстрее файлов в 10–50×, плюс работа в кластере.
• Кэш компонентов → Memcached через .settings.php: 'cache' => ['type' => 'memcache'].
• Кэш ORM-запросов — чтобы одинаковые GetList() не нагружали MySQL на каждом хите.

Почему стандартных настроек MySQL недостаточно?

Индексы. Составные для фасетного поиска. Покрывающие для частых выборок — MySQL отвечает из индекса, не обращаясь к данным. Частичные индексы (MariaDB) для фильтрации по ACTIVE = 'Y'. Аудит неиспользуемых индексов — каждый замедляет INSERT/UPDATE.

Партиционирование. Для таблиц с миллионами строк: b_stat_session, b_search_content_stem, Highload-блоки с историей. Партиция по дате — запрос «заказы за месяц» не сканирует данные за три года.

Реальный кейс: каталог 200 000 товаров, 50 свойств. Фильтр по 10 свойствам занимал 12 секунд. После создания составных индексов по (IBLOCK_ID, IBLOCK_PROPERTY_ID, VALUE) и партиционирования b_iblock_element_property по IBLOCK_ID время выполнения упало до 0,3 секунды. Нагрузка на MySQL снизилась в 40 раз.

Очистка. В любой базе за год-два накапливается: устаревший поисковый индекс, просроченные записи в b_cache_tag, история b_iblock_element_prop_s*, логи в b_event_log на гигабайты. Настраиваем регулярную очистку через агенты.

Партиционирование также решает проблему с параллельными запросами при обмене с 1С через CommerceML. Подробнее: MySQL Partitioning Documentation.

Фронтенд

Изображения — 60–80% веса страницы:

• WebP через CFile::ResizeImageGet() с BX_RESIZE_IMAGE_PROPORTIONAL + конвертация;
• srcset + sizes — не грузим 3000px картинку в блок 400px;
• loading="lazy" для всего ниже первого экрана;
• AVIF — ещё 20–30% экономии vs WebP (подробнее: WebP).

CSS/JS:

• Встроенный модуль Битрикс: объединение и минификация через «Настройки → Оптимизация CSS/JS»;
• PurgeCSS / UnCSS — на типичном Битрикс-проекте 60–70% CSS не используются;
• defer / async для некритичного JS;
• Critical CSS инлайном в <head> для мгновенного FCP.

Шрифты:

• <link rel="preload" as="font" crossorigin> для основного шрифта;
• font-display: swap — текст виден сразу;
• Subsetting через pyftsubset — вырезаем кириллицу + латиницу, файл уменьшается в 3–5 раз.

CDN

Cloudflare, BunnyCDN, AWS CloudFront или российские (Selectel CDN, VK Cloud CDN).

• Статика (CSS, JS, изображения, шрифты) — через CDN.
• Правила кэширования: Cache-Control: public, max-age=31536000, immutable для файлов с хешем.
• Оптимизация изображений на лету (imgproxy, Cloudflare Polish) без нагрузки на origin.

Зачем нужно нагрузочное тестирование?

Не синтетические бенчмарки, а реальные сценарии:

• k6 / wrk — имитация маршрутов: каталог → фильтрация → карточка → корзина → оформление.
• Метрики: RPS, время ответа (p50, p95, p99), процент ошибок.
• Xdebug (callgrind) или Blackfire — профилирование PHP, поиск узких мест.

Результат тестирования — объективная картина, где реально тормозит, а не где «кажется». После оптимизации прогоняем повторно — фиксируем улучшения.

Результаты

Что входит в работу?

1. Аудит текущей производительности — анализ slow-запросов, профилирование PHP, проверка кэширования, CDN, серверных настроек.
2. Настройка серверной части — Nginx, PHP-FPM, MySQL, Redis/Memcached, OPcache.
3. Оптимизация кэширования — управляемый кэш, композитный сайт, настройка TTL, тегированное кэширование.
4. Работа с БД — создание индексов, партиционирование, очистка, реорганизация EAV-таблиц.
5. Фронтенд — изображения (WebP/AVIF), CSS/JS (минификация, deferred), шрифты (preload, subsetting).
6. CDN — подключение, настройка правил кэширования.
7. Нагрузочное тестирование — сценарии реальных пользователей, отчёт по метрикам.
8. Документация — описание всех изменений, рекомендации по дальнейшему обслуживанию.
9. Гарантия — поддержка в течение 1 месяца после сдачи.

Мониторинг

Без мониторинга через полгода всё деградирует. Новый модуль, нерасчищенные логи, изменение в шаблоне — и скорость вернулась к исходной.

• web-vitals API — Real User Monitoring от реальных посетителей.
• Synthetic monitoring — Pingdom, UptimeRobot, регулярные проверки из разных локаций.
• Алерты — TTFB > 500 мс или LCP > 3 сек → уведомление.

Сроки и стоимость

Стоимость рассчитывается индивидуально после аудита. [Получите консультацию по вашему проекту] — оценим текущее состояние и предложим план ускорения с конкретными сроками и бюджетом. Мы — команда с 10+ годами опыта в Битрикс, выполнили более 200 проектов по оптимизации скорости сайта.