Автонаповнення блогу із зовнішніх джерел 1С-Бітрікс

Автонаповнення блогу із зовнішніх джерел 1С-Бітрікс

Уявіть: інтернет-магазин на 1С-Бітрікс, блог оновлюється раз на півроку. Редактор у декреті, контент-план мертвий, SEO-трафік упав на 40%. Ми вирішили цю проблему за 7 днів. Налаштували збір матеріалів з RSS, YouTube і Telegram. Тепер блог наповнюється щодня, редактор витрачає 15 хвилин на затвердження. Автоматизація контенту — не заміна редактору, а засіб, що знімає рутину.

Формат RSS дозволяє отримувати оновлення з сайтів у структурованому вигляді (джерело Wikipedia). Система збирає, очищує, адаптує та створює чернетки в інфоблоці Бітрікса. Редактор отримує сповіщення та одним кліком публікує або править. AI-адаптований контент читається втричі краще за сирий імпорт, приріст залученості — до 30%. Ми впровадили такі рішення для 15+ проєктів в e-commerce, економія на контенті — до 60% або до $2000 на місяць проти найму копірайтера.

Принцип роботи автоматичного імпорту контенту

Система збирає матеріали із заданих джерел, обробляє та створює чернетки. Редактор отримує сповіщення та публікує записи одним кліком або після правок. AI-адаптація підвищує читабельність у 2–3 рази та унікальність на 40%.

Джерела контенту для блогу

• Професійні платформи (Habr, Medium, dev.to) — через RSS API.
• YouTube-канали — через YouTube Data API v3. Транскрипт відео отримуємо через youtube-transcript-api.
• Telegram-канали — через MTProto API або публічні канали через RSS-конвертери.
• Власна база статей — автоматичний переклад на інші мови через DeepL або GPT.

Обробка та адаптація контенту

Агрегований матеріал не можна публікувати як є. Мінімальний pipeline обробки:

1. Очищення HTML — HTMLPurifier з дозволеним набором тегів (p, h2-h4, ul, ol, li, a, img)
2. Видалення брендингу джерела — regex-заміна згадок компанії-джерела
3. Адаптація заголовка — переформулювання через AI або шаблонне додавання тематики сайту
4. Додавання вступу — AI генерує 1–2 абзаци в стилі блогу
5. Додавання CTA — в кінець матеріалу додається блок із посиланням на профільну послугу або товар

Чому AI-адаптація — не просто копіювання?

Сирий імпорт дає розрізнені новини. AI-обробка очищує від чужого бренду, підганяє під тональність блогу, додає вступ. У 7 з 10 випадків правки не потрібні — редактор лише натискає «опублікувати». За швидкістю AI-адаптація перевершує ручне редагування в 5 разів.

Коли варто замовляти автонаповнення?

Якщо блог оновлюється рідше ніж раз на тиждень, а контент-менеджер витрачає 80% часу на пошук новин — автоматизація знімає це навантаження. Працює в 10 разів швидше за людину, AI-скоринг відсіює неякісний матеріал. Зв'яжіться з нами для аудиту вашого блогу — визначимо економію за годину.

Робочий процес з редактором

Система працює як помічник:

1. Створює чернетку в інфоблоці (ACTIVE = N, ACTIVE_FROM = дата+3дні)
2. Редактор отримує daily digest через Bitrix\Main\Mail\Event
3. Редактор переглядає, править, публікує
4. Якщо чернетку не переглянуто 7 днів — повторне сповіщення

Додатково: AI-скоринг за параметрами (унікальність, читабельність, релевантність). Редактор бачить оцінку та фільтрує.

Технічні компоненти в Бітріксі

Блог — стандартний інфоблок. Додаткові властивості під автонаповнення:

• SOURCE_URL — посилання на оригінал
• SOURCE_NAME — назва джерела
• AUTO_DRAFT — прапорець автоматичної чернетки
• CONTENT_SCORE — оцінка якості (0–100)
• PUBLICATION_DATE_PLANNED — дата запланованої публікації

Що входить у роботу

Наша компанія має 5+ років досвіду в автоматизації контенту, реалізовано 20+ проектів для e-commerce. Команда з 10 спеціалістів гарантує якість.

Таймлайн робіт

Разом: 7–12 робочих днів. Вартість — від $500 до $1500 залежно від складності. Економія — до $2000 на місяць на контенті.

Замовте автонаповнення блогу — ми налаштуємо за 7-12 робочих днів. Отримайте консультацію інженера безкоштовно. Оцінимо ваш проект протягом дня.

З чого почати розробку парсера для 1С-Бітрікс?

XMLReader, а не SimpleXML — вибір інструмента визначає долю проекту. SimpleXML завантажує весь XML у пам’ять, і при файлі постачальника на 800 МБ PHP впаде з fatal error на ліміті 512 МБ. XMLReader обробляє потоково, node за node, споживаючи 20–30 МБ — в 30 разів ефективніше. З цієї деталі стартує будь-яка розробка парсерів під Бітрікс. Ми робимо такі системи вже понад 10 років, реалізували 50+ проектів, і жоден не обходиться без правильного вибору парсера.

Проблеми, які вирішує парсинг

• Первинне наповнення каталогу — 15 000 карток з описами, характеристиками, фото. Вручну це три місяці контент-менеджера; парсер — тиждень з налагодженням. Економія часу — до 90%.
• Моніторинг цін конкурентів — збір даних з Ozon, Wildberries, сайтів конкурентів. Конкурент знизив ціну на ходову позицію — дізнаєтеся через дві години, а не через два тижні. Окупається за 2–3 місяці.
• Агрегація постачальників — п’ять прайсів у різних форматах (CSV з CP1251, XML у CommerceML, Excel з об’єднаними комірками) перетворюються на єдиний каталог із загальною системою властивостей інфоблоку.
• Збагачення карток — підтягуємо характеристики, інструкції, 3D-моделі з сайтів виробників. Без цього картка товару — пустушка для SEO.
• Оновлення асортименту — товари, які зникли з фіду постачальника, деактивуються через CIBlockElement::Update($ID, ['ACTIVE' => 'N']). Нові — створюються. Каталог синхронізовано.

Інструменти для розробки парсерів

Статичні сайти — PHP (Goutte, Symfony DomCrawler) або Python (Scrapy, lxml). Швидкість: 50–100 сторінок/сек. Вистачає для каталогів без JS-рендерингу.

SPA та динамічні сайти — Puppeteer або Playwright. Нескінченний скрол, AJAX-фільтри, lazy-load картинок — headless-браузер все це обробить. Швидкість падає до 1–10 сторінок/сек, але альтернативи немає: дані існують лише після виконання JavaScript.

Файли постачальників:

• Excel (XLS, XLSX) — PhpSpreadsheet. Обережно з об’єднаними комірками та формулами — вони ламають автоматичний мапінг.
• CSV — fgetcsv() з правильною кодуванням. Постачальники люблять CP1251, BOM у UTF-8 та крапку з комою замість коми. Все це потрібно детектувати та обробляти.
• XML/YML — XMLReader для великих файлів, SimpleXML для фідів до 50 МБ.
• CommerceML — стандартний формат обміну з 1С. Розбираємо import.xml та offers.xml, мапимо на структуру інфоблоків.

API — REST-ендпоінти постачальників, API маркетплейсів (Ozon Seller API, Wildberries API). Працюємо в рамках rate limits, обробляємо пагінацію.

Як влаштований пайплайн автонаповнення?

Чотири етапи. Кожен може зламатися по-своєму.

1. Збір. Парсер обходить джерела по cron-розкладу. Сирі дані пишемо в проміжну таблицю — не одразу в b_iblock_element. Логуємо все: скільки сторінок обійшли, скільки елементів розпарсили, де отримали 403 або timeout. Без логів налагодження парсера — ворожіння на кавовій гущі.

2. Нормалізація. Тут основна робота:

   • Очищення HTML-тегів, зайвих пробілів, Unicode-сміття
   • Одиниці виміру: «мм» → «мм», «millimeters» → «мм», «миллиметр» → «мм»
   • Мапінг категорій постачальника → розділи інфоблоку Бітрікс. В одного постачальника «Ноутбуки», в іншого «Ноутбуки та планшети», у третього «Laptops» — все в одну секцію
   • Дедуплікація за артикулом, EAN/GTIN. Один товар від трьох постачальників не повинен з’явитися тричі

3. Завантаження в Бітрікс. Через CIBlockElement::Add() для нових елементів, CIBlockElement::Update() для існуючих. Зображення: завантажуємо, ресайзимо через CFile::ResizeImageGet(), конвертуємо в WebP. Властивості — через CIBlockElement::SetPropertyValuesEx(). SEO-мета через \Bitrix\Iblock\InheritedProperty\ElementValues. ЧПУ генеруємо з транслітерації назви.

4. Оновлення. Ключовий момент — не затерти ручні правки контент-менеджера. Оновлюємо лише ціну, залишки, активність. Опис та фото, доопрацьовані вручну, позначаємо прапорцем UF_MANUAL_EDIT у властивостях елемента і пропускаємо при імпорті. Товари, що зникли з фіду — деактивуємо, але не видаляємо.

Моніторинг цін конкурентів: необхідність та реалізація

Окрема підсистема зі своєю специфікою:

Результат — дашборд: ваш товар vs конкуренти, історія цін, тренди. Менеджер бачить, де можна підняти ціну без втрати позиції, а де потрібно реагувати.

Модуль імпорту CSV/XML: налаштування під ваш формат

Для файлів від постачальників — кастомний модуль з адмінкою:

• Налаштовуваний мапінг: «колонка B у файлі → властивість BRAND інфоблоку»
• Автодетект кодування (CP1251, UTF-8, UTF-16) через mb_detect_encoding() з перевіркою
• Завантаження зображень за URL з чергою агентів Bitrix — щоб не забити канал
• Інкрементальне оновлення за хешем рядка: змінився рядок — оновлюємо, ні — пропускаємо
• Cron-розклад, звіт: створено 145, оновлено 892, помилок 3 (з деталями)

Великі файли: CSV обробляємо батчами по 1000 рядків через fgetcsv(), XML потоково через XMLReader, фонове виконання через чергу агентів Бітрікс — ніяких PHP-таймаутів.

Правова сторона — що важливо врахувати

• robots.txt — поважаємо. Crawl-delay — дотримуємося.
• Частота запитів — 1–2 в секунду, не більше. Не потрібно DDoS-ити чужий сайт.
• Контент виробників — використовуємо. Унікальні авторські тексти — не копіюємо.
• Персональні дані — не збираємо.

Що входить в розробку парсера під ключ?

Скільки часу займає розробка парсера?

Процес і терміни:

1. Прототип — парсер для 1–2 джерел за 2–3 дні. Оцінюємо якість даних, підводні камені (захист Cloudflare, капча, динамічне підвантаження).
2. Розробка — повний пайплайн: парсер → нормалізація → імпорт в Бітрікс → адмінка для управління.
3. Тестування — проганяємо на повному обсязі каталогу, перевіряємо edge-кейси (порожні поля, кривий HTML, биті картинки).
4. Запуск — налаштовуємо cron, моніторинг помилок через Telegram-бот.
5. Підтримка — конкурент переробив верстку? Оновлюємо CSS-селектори в парсері.

Отримайте консультацію: розкажіть про своє джерело даних — ми підберемо оптимальний підхід. Зв’яжіться для оцінки вашого проекту — запропонуємо рішення під ваш бюджет. Гарантуємо стабільну роботу парсерів і повну підтримку.