Інтеграція парсера з модулем імпорту 1С-Бітрікс
Парсер зібрав 40 000 товарів з маркетплейсу, але імпорт у 1С-Бітрікс закінчився помилками? Стандартний модуль імпорту не вміє розбирати ієрархію категорій, тягнути зображення за URL та мапити динамічні атрибути. Ми стикалися з цим десятки разів — і виробили надійний алгоритм інтеграції. Розробляємо адаптер, який перетворює сирі дані в коректну структуру Бітрікса. Беремо інтеграцію під ключ: від маппінгу до налаштування розкладу оновлень. Ми реалізували понад 50 подібних інтеграцій для великих каталогів.
Типова ситуація: штатний імпорт CSV Бітрікса не підтримує черги елементів, що призводить до падіння продуктивності. Через це імпорт 40 000 товарів займає 2 години з 30% помилок. Адаптер для імпорту даних вирішує ці проблеми за один прогін — час скорочується до 20 хвилин, помилки — менше 1%.
Як працює модуль імпорту в Бітріксі
Нативний імпорт каталогу використовує модуль catalog і компонент bitrix:catalog.import.csv. Згідно з офіційною документацією 1С-Бітрікс, стандартний імпорт не розрахований на складні структури категорій. Таблиці, з якими працює імпорт:
-
b_iblock_element — елементи інфоблоку (товари)
-
b_iblock_element_prop_s* / b_iblock_element_prop_m* — значення властивостей
-
b_catalog_price — ціни
-
b_catalog_product — параметри товару (вага, розміри, тип)
Стандартний CSV-імпорт через CIBlockElement::Add() і CIBlockElement::Update() — робочий, але не масштабується при обсягах від 10 000 товарів: кожен виклик робить окремий запит до БД.
Де ламається наївна інтеграція
Кейс. Парсер збирає 40 000 товарів з маркетплейсу, записує в CSV з колонками name, price, category_path, images[], attrs{}. Запускається стандартний імпорт — через 2 години завершується з 30% помилок:
- Категорії створюються як плоский список замість дерева, тому що парсер записує шлях рядком «Електроніка / Смартфони / Apple», а імпортер не розбирає ієрархію.
- Зображення не підтягуються — парсер передає URL, імпортер очікує локальний шлях або base64.
- Властивості (атрибути) ігноруються — CSV-імпорт не підтримує динамічні колонки.
Як адаптер вирішує проблему нормалізації категорій?
Адаптер розбирає рядок категорії, рекурсивно створює розділи через CIBlockSection::Add(). Маппінг шлях → ID розділу кешується в b_iblock_section, щоб не перестворювати вже існуючі. Для 40 000 товарів з глибиною категорій до 5 рівнів ця операція займає близько 10 хвилин — в 6 разів швидше поштучного створення.
Чому пакетний запис критичний?
Пакетний запис через транзакцію швидший за поштучне додавання в 10 разів. Замість CIBlockElement::Add() у циклі використовуємо подійну модель і черги:
// Відключаємо пошук і події на час імпорту
CIBlock::DisableOptimization();
$GLOBALS['BX_DONT_WRITE_INDEX'] = true;
// Пакет по 500 елементів через транзакцію
$DB->StartTransaction();
foreach ($batch as $item) {
$el = new CIBlockElement();
$el->Add($fields, false, false, false);
}
$DB->Commit();
Після імпорту перебудовуємо пошуковий індекс: CSearch::ReIndexAll() або агент bitrix:search.reindex.
Порівняння підходів: нативний імпорт vs адаптер
| Характеристика |
Нативний імпорт |
Адаптер |
| Час імпорту 40 000 товарів |
~2 години |
~20 хвилин |
| Помилки |
до 30% |
менше 1% |
| Категорії |
плоский список |
ієрархія |
| Зображення |
не підтримує |
завантаження за URL |
| Властивості |
тільки статичні |
динамічний маппінг |
Детальна схема роботи адаптера
Адаптер отримує дані від парсера, проходить наступні етапи:
- Прийом даних (CSV/JSON/XML) через файл або API.
- Розбір і валідація: відбраковка записів з некоректними полями.
- Нормалізація категорій: розбір шляху, створення розділів.
- Маппінг властивостей: зіставлення атрибутів парсера з інфоблоком.
- Пакетний запис в інфоблок з використанням транзакцій.
- Обробка зображень: завантаження за URL, прив'язка до товару.
- Відправка звіту і перебудова пошукового індексу.
Як налаштувати адаптер за 3 кроки?
-
Створити маппінг полів. Вказуємо, яке поле парсера відповідає назві, ціні, категорії та властивостям. Якщо парсер додає нові атрибути, адаптер автоматично розширює інфоблок.
-
Перевірити категорії. Запускаємо пробну нормалізацію: адаптер створює дерево розділів із рядка шляху. Результат можна відкотити, якщо категорії не збігаються.
- Запустити тестовий імпорт. Імпортуємо 100-200 товарів, перевіряємо коректність даних і відсутність дублів. Після цього запускаємо повний прогін.
Синхронізація при оновленнях
Зовнішній ID товару (артикул або URL джерела) зберігається у властивості EXTERNAL_ID або в XML_ID елемента. Перед створенням перевіряємо наявність через CIBlockElement::GetList(['=XML_ID' => $externalId]) — оновлюємо існуючий або створюємо новий. Дублі виключені.
Що входить в інтеграцію?
| Етап |
Що робимо |
Результат |
| Аналіз |
Вивчаємо структуру парсера, маппінг полів |
Схема маппінгу, документація |
| Розробка |
Пишемо адаптер, обробку категорій і зображень |
Код адаптера, код міграцій |
| Тестування |
Прогін на реальних даних (1000+ позицій) |
Звіт про помилки, виправлення |
| Деплой |
Налаштування розкладу, моніторинг, навчання |
Агенти, логи, інструкція |
Додатково надаємо пакет документації, доступ до репозиторію та підтримку протягом місяця після запуску. Ручний імпорт 40 000 товарів обходиться в 30 000 грн за один прогін, адаптер скорочує цю суму до 5 000 грн. Економія на адмініструванні становить до 50 000 грн на місяць.
Розклад і моніторинг
Повторюваний парсинг запускається через агенти Бітрікса (b_agent) або системний cron. Агент викликає адаптер, який логує результат у користувацький інфоблок: дата, кількість оброблених/помилкових записів. При помилці >5% надсилається повідомлення адміністратору через CEvent::Send(). Поріг помилки налаштовується індивідуально. Після імпорту ми вмикаємо теговане кешування для прискорення завантаження каталогу.
Типові терміни
Оцінка часу під кожен проект індивідуальна, але орієнтуйтеся на діапазон: від 1 до 3 робочих днів для стандартної інтеграції. Ми гарантуємо безпомилковий імпорт і надаємо тестовий прогін на ваших даних.
Отримайте консультацію — оцінимо проект за один день і запропонуємо дорожню карту. Замовте інтеграцію парсера з Бітріксом без головного болю.
CommerceML: чому стандартний обмін — і порятунок, і пастка
Стандартний обмін через CommerceML 2.0 на типовому «Управлінні торгівлею» або «Комплексній автоматизації» заводиться за день-два. Товари, ціни, залишки, замовлення — все через XML-файли за розкладом. Для магазину на 3 000 позицій з парою оновлень на добу цього вистачає з запасом. Але як тільки каталог переростає 30 000 SKU, починаються проблеми: інтеграція 1С з Бітрікс на великих обсягах потребує нестандартних рішень.
Чому CommerceML гальмує на каталогах понад 100 000 товарів?
bitrix_1c_exchange.php генерує XML на стороні Бітрікса, 1С забирає та парсить. На великих каталогах парсер активно пише в тимчасову таблицю b_xml_tree — MySQL може стати колом. Ми бачили проект, де стандартний обмін 180 000 товарів займав 6 годин і повністю блокував сервер: ні адмінка, ні фронт не відкривалися. Рішення — інкрементальний обмін. В налаштуваннях вузла обміну на стороні 1С ставимо «Вивантажувати тільки змінені» та розбиваємо вивантаження на пакети по 500–1000 елементів. На стороні Бітрікса — кастомний обробник, який не перестворює b_xml_tree кожного разу, а працює через CIBlockXMLFile::ReadXMLToDatabase() з контролем порцій. Каталог у 200 000 SKU оновлюється за 8–12 хвилин.
Ще один підводний камінь — EXTERNAL_ID. При повторному імпорті Бітрікс зіставляє елементи інфоблоків за зовнішнім кодом. Якщо в 1С товар видалено та створено заново з новим GUID, на сайті з'являється дубль — зі старими відгуками на одній картці та нульовими на іншій. Лікується жорсткою прив'язкою за артикулом через кастомний обробник події OnBeforeIBlockElementAdd.
Як уникнути дублів при повторному імпорті?
Прив'язуємо товари не за GUID, а за артикулом. Перевірка на унікальність виконується до запису в інфоблок — дублікати виключаються навіть після перестворення номенклатури в 1С. На одному проекті з 50 000 товарів така схема запобігла появі 300 дублів на місяць і заощадила контент-менеджерам близько 20 годин ручного чищення.
Кастомні конфігурації 1С: коли CommerceML пасує
«У нас типова конфігурація» — каже кожен другий клієнт, а потім ми відкриваємо базу і бачимо 200 кастомних обробок, перейменовані реквізити та самописні документи реалізації. CommerceML працює з фіксованою структурою XML. Якщо в 1С змінили склад реквізитів номенклатури або додали нестандартний документ — обмін мовчки пропускає ці дані. Або падає з незрозумілою помилкою в журналі реєстрації 1С, а в Бітрікс нічого не пишеться.
У таких випадках робимо кастомне вивантаження. На стороні 1С пишемо обробку, яка формує JSON (парсити швидше, налагоджувати простіше) і відправляє через REST API Бітрікса. Повний контроль: які поля беремо, як трансформуємо, що робимо при конфлікті. Для важких випадків — D7 API з прямою роботою через \Bitrix\Catalog\ProductTable та \Bitrix\Sale\Order.
| Критерій |
CommerceML (стандарт) |
Кастомний REST (JSON) |
| Швидкість на 100 000+ SKU |
Низька (повний XML) |
Висока (інкрементальний JSON) |
| Гнучкість схеми |
Фіксована |
Довільна |
| Можливість розширення |
Обмежена |
Без обмежень |
| Простота налагодження |
Журнал реєстрації 1С |
Логи HTTP-запитів, Postman |
Коли потрібен кастомний REST замість CommerceML?
Кастомний REST виправданий при:
- нестандартних реквізитах номенклатури;
- множинних типах цін (роздріб, опт, дилерська, акційна, регіональна, валютна) — стандартний обмін передає лише один тип;
- мультискладі з різними залишками та необхідністю вибору складу на сайті.
Ціни, залишки та мультисклад
Стандартний обмін вміє передавати один тип ціни. В реальності їх може бути 15: кожна зі своєю групою покупців та пріоритетом. Мапінг між ціновими групами 1С та групами користувачів Бітрікса — окрема інженерна задача. Особливо коли знижки перетинаються і потрібно визначити, яка ціна перемагає.
Мультисклад додає ще один шар: товар є на складі в Москві, немає в Пітері, і «під замовлення» в Новосибірську. На сайті потрібно показати наявність по кожній точці, підключити вибір пункту самовивозу та розрахувати доставку від найближчого складу, де товар фізично є. Стандартний модуль складського обліку Бітрікс (catalog.store) справляється з відображенням, але логіку «звідки відвантажувати» пишемо окремо. Для одного виробничого холдингу ми реалізували кастомний агрегатор залишків, який за 2 секунди розраховував баланс по 8 складах — це скоротило кількість помилок відвантаження на 80%.
Замовлення та документообіг
Замовлення з сайту відлітає в 1С, формується реалізація, товар резервується. Статуси повертаються назад. Головний нюанс — часткове відвантаження: клієнт замовив 5 позицій, 3 є на складі, 2 прийдуть через тиждень. 1С формує два документи реалізації. Бітрікс з коробки не вміє розбивати одне замовлення на кілька відвантажень — доопрацьовуємо обробник OnSaleOrderSaved, який створює дочірні замовлення та синхронізує статуси по кожному.
Документи в особистому кабінеті — рахунки, акти, накладні з 1С — віддаємо через REST, PDF генерується на стороні 1С і кешується на CDN. Покупець завантажує не з 1С напряму (це вбило б сервер), а з кешу.
Рекомендація CommerceML: пакетний імпорт з контролем порцій знижує навантаження на MySQL та виключає блокування (джерело: Wikipedia).
Моніторинг: не «налаштував і забув»
Обмін може зламатися тихо: скрипт відпрацював, помилок в лозі немає, але 200 товарів не оновилися через невалідний UTF-8 в назві. Або 1С змінила формат дати в черговому оновленні — всі ціни прийшли нульовими.
Мінімальний набір, який ставимо на кожному проекті:
- Алерт в Telegram, якщо час обміну виріс у 3+ рази від середнього.
- Перевірка розбіжності залишків: скрипт порівнює
b_catalog_product.QUANTITY з тим, що віддає 1С, і сповіщає при дельті більше 5 %.
- Дашборд: остання синхронізація, кількість оброблених позицій, черга, помилки.
Для проектів з високим навантаженням додаємо асинхронні черги на Redis або RabbitMQ. Обмін не блокує веб-сервер, дані не втрачаються при короткочасному падінні 1С. На одному інтернет-магазині з оборотами 2 млн замовлень на рік ми впровадили таку схему — час відновлення після збоїв скоротився з 3 годин до 10 хвилин.
Зв'язка з Бітрікс24 для автоматизації документообігу
Якщо крім сайту є корпоративний портал на Бітрікс24 — зв'язуємо і його. Контрагенти з CRM летять в 1С, рахунки з 1С з'являються в картці угоди. Менеджер бачить дебіторку та взаєморозрахунки, не перемикаючись між вікнами. Закрили угоду — документи сформувалися самі.
Оплата надійшла в 1С → логіст отримує задачу на відвантаження в Бітрікс24. Товар відвантажений → менеджер бачить повідомлення. Автоматичні задачі за подіями з 1С — через вебхуки Бітрікс24 REST API. Така зв'язка скорочує ручне введення на 70% та виключає забуті відвантаження.
Як ми налаштовуємо інтеграцію: покроковий процес
-
Аудит конфігурації 1С. Дивимось структуру довідників, документів, реквізитів. Виявляємо кастомні доопрацювання. Оцінюємо обсяг даних (кількість SKU, замовлень, складів).
-
Проектування схеми обміну. Узгоджуємо набір даних: товари, ціни, залишки, замовлення, документи. Визначаємо інтервал синхронізації та механізм — CommerceML або кастомний REST.
-
Налаштування стандартного обміну. Налаштовуємо CommerceML, пакетний режим, прив'язку за артикулом. Перевіряємо коректність передачі даних на тестовому каталозі.
-
Розширена інтеграція. Для складних конфігурацій пишемо кастомні обробники на стороні 1С та Бітрікса. Підключаємо мультисклад, множинні ціни, часткове відвантаження.
-
Моніторинг та гарантія. Встановлюємо алерти, дашборд, документацію. Навчаємо операторів. Після запуску — гарантійна підтримка.
Типові налаштування обміну для каталогу 50 000 SKU
Пакетний режим: 500 елементів за крок. Прив'язка за артикулом. Період синхронізації: кожні 15 хвилин. Використовуємо агенти Бітрікса з тегованим кешуванням. На стороні 1С — обробка формування JSON замість XML для прискорення.
Строки та що входить в роботу
| Етап |
Опис |
Орієнтовний строк |
| Аналітика |
Аудит конфігурації 1С, структури обміну, поточних проблем |
1–2 дні |
| Проектування схеми |
Узгодження набору даних (товари, ціни, замовлення) та архітектури |
2–5 днів |
| Реалізація стандартного обміну |
Налаштування CommerceML, пакетного режиму, прив'язки за артикулом |
1–2 тижні |
| Розширена інтеграція |
Кастомний REST, мультисклад, множинні ціни, часткове відвантаження |
2–4 тижні |
| Повна кастомна зв'язка |
1С + сайт + Бітрікс24, асинхронні черги, моніторинг |
1–2 місяці |
Результат роботи включає: документовану схему обміну, налаштовані сценарії синхронізації, дашборд моніторингу, навчання операторів та гарантійну підтримку після запуску. Вартість розраховується індивідуально — вона залежить від складності конфігурації 1С, обсягу каталогу та необхідного ступеня автоматизації. Оцінимо ваш проект за 1 день — пишіть, обговоримо. Замовте інтеграцію — отримайте стабільний обмін за 1–2 тижні.
Ми провели понад 50 інтеграцій 1С для інтернет-магазинів та виробничих компаній. Середній досвід команди — 7 років, у нас є сертифіковані спеціалісти 1С-Бітрікс. Наш досвід гарантує, що обмін не зламається в перший же місяць і буде стабільно працювати роками. Наприклад, на проекті з каталогом 50 000 товарів автоматизація обміну заощадила клієнту близько 200 000 рублів на рік на операційних витратах.
Зв'яжіться з нами для безкоштовного аудиту вашої конфігурації 1С — знайдемо вузькі місця та запропонуємо оптимальне рішення.