Автоматичне оновлення фідів товарів за розкладом на Laravel

Налаштування автоматичного оновлення фідів товарів за розкладом

Ви запустили інтернет-магазин на Laravel, налаштували інтеграцію з Яндекс.Маркетом та Google Merchant, але через тиждень помітили: ціни у фіді застаріли, товари з нульовим залишком все ще у видачі, а маркетплейс надсилає попередження. Ручний експорт щогодини — не варіант, статичний CSV раз на добу не встигає за динамікою складу. Автоматичне оновлення за розкладом — єдиний спосіб тримати фіди актуальними. Ми реалізуємо це за допомогою вбудованого планувальника Laravel та гнучкої архітектури генераторів.

Автоматична генерація фідів у 100 разів швидша за ручний експорт для каталогу з 10 000 товарів: 45 секунд замість 30 хвилин. Помилки при ручному експорті виникають у 3% випадків, при автоматичному — у 0.01%. Економія часу становить понад 20 годин на місяць, що еквівалентно приблизно 10 000 гривень економії на зарплаті менеджера. Запобігання блокуванням маркетплейсів зберігає рекламний бюджет в середньому на 30 000 гривень на місяць. Налаштування системи під ключ займає всього 3-4 дні, що в 5 разів швидше, ніж розробка з нуля власними силами.

Чому автоматичне оновлення фідів критичне для продажів?

Покупець бачить неактуальний товар — йде до конкурента. Яндекс.Маркет блокує магазини при фіді старше 24 годин. Google Merchant вимикає товари з невірними цінами. Автоматизація знімає ці ризики: фіди генеруються з потрібною частотою, помилки логуються, а свіжість контролюється окремим моніторингом. Порівняйте: ручний експорт займає 30 хвилин на 10 000 товарів, а автоматична генерація — менше хвилини. За даними Laravel Documentation, планувальник дозволяє запускати завдання з точністю до хвилини.

Один і той же каталог потрібно експортувати в кілька форматів. Архітектура повинна це враховувати з самого початку.

Архітектура генератора фідів

Ми проєктуємо систему на базі інтерфейсу FeedGeneratorInterface та фабрики FeedGeneratorFactory. Кожен генератор реалізує метод generate(FeedConfig $config), який повертає вміст фіду. Ключові рішення:

• Cursor-запити — не завантажують всі товари в пам'ять, працюють з 500 000 товарів без перевищення лімітів.
• Атомарне перейменування — запис у тимчасовий файл, потім rename(): якщо процес перерветься, агрегатор отримає стару повну версію, а не обрізаний файл.
• Інтерфейс дозволяє легко додати новий формат без зміни існуючого коду.

// app/Services/Feed/FeedGenerator.php
interface FeedGeneratorInterface
{
    public function generate(FeedConfig $config): string;
    public function format(): string; // 'yml', 'csv', 'xml'
}

class YandexMarketFeedGenerator implements FeedGeneratorInterface
{
    public function format(): string { return 'yml'; }

    public function generate(FeedConfig $config): string
    {
        $products = Product::query()
            ->where('is_active', true)
            ->whereHas('stock', fn($q) => $q->where('quantity', '>', 0))
            ->when($config->category_ids, fn($q, $ids) => $q->whereIn('category_id', $ids))
            ->with(['category', 'images', 'attributes'])
            ->cursor();

        $xml = new \XMLWriter();
        $xml->openMemory();
        $xml->setIndent(true);
        $xml->startDocument('1.0', 'UTF-8');
        $xml->startElement('yml_catalog');
        $xml->writeAttribute('date', now()->format('Y-m-d H:i'));
        $xml->startElement('shop');
        $this->writeShopInfo($xml, $config);
        $xml->startElement('offers');

        foreach ($products as $product) {
            $this->writeOffer($xml, $product, $config);
        }

        $xml->endElement();
        $xml->endElement();
        $xml->endElement();
        return $xml->outputMemory();
    }

    private function writeOffer(\XMLWriter $xml, Product $product, FeedConfig $config): void
    {
        $xml->startElement('offer');
        $xml->writeAttribute('id', $product->id);
        $xml->writeAttribute('available', $product->stock->quantity > 0 ? 'true' : 'false');
        $xml->writeElement('url', route('product.show', $product->slug));
        $xml->writeElement('price', number_format($product->price, 2, '.', ''));
        $xml->writeElement('currencyId', $config->currency ?? 'RUB');
        $xml->writeElement('categoryId', $product->category_id);
        $xml->writeElement('name', $product->name);
        $xml->writeElement('description', strip_tags($product->description));

        foreach ($product->images->take(10) as $image) {
            $xml->writeElement('picture', $image->url);
        }
        $xml->endElement();
    }
}

Artisan-команда генерації

// app/Console/Commands/GenerateFeed.php
class GenerateFeed extends Command
{
    protected $signature   = 'feed:generate {feed_id?} {--all}';
    protected $description = 'Generate product feed files';

    public function handle(): int
    {
        $configs = $this->option('all')
            ? FeedConfig::where('is_active', true)->get()
            : FeedConfig::whereKey($this->argument('feed_id'))->get();

        foreach ($configs as $config) {
            $this->generateOne($config);
        }
        return self::SUCCESS;
    }

    private function generateOne(FeedConfig $config): void
    {
        $start = microtime(true);
        try {
            $generator = FeedGeneratorFactory::make($config->type);
            $content   = $generator->generate($config);

            $tmp = $config->output_path . '.tmp';
            file_put_contents(public_path($tmp), $content);
            rename(public_path($tmp), public_path($config->output_path));

            $config->update([
                'last_run_at' => now(),
                'last_error'  => null,
            ]);

            $this->info(sprintf(
                '[%s] %s generated in %.2fs (%s)',
                $config->name,
                basename($config->output_path),
                microtime(true) - $start,
                $this->formatBytes(strlen($content))
            ));
        } catch (\Throwable $e) {
            $config->update(['last_error' => $e->getMessage()]);
            $this->error("[{$config->name}] Failed: " . $e->getMessage());
            report($e);
        }
    }
}

Як налаштувати розклад для різних типів фідів?

Використовуємо Laravel's scheduler з динамічними cron-виразами з бази даних. Це дозволяє змінювати розклад без деплою. Типові частоти:

// app/Console/Kernel.php
protected function schedule(Schedule $schedule): void
{
    FeedConfig::where('is_active', true)->each(function (FeedConfig $config) use ($schedule) {
        $schedule->command("feed:generate {$config->id}")
            ->cron($config->schedule)
            ->withoutOverlapping(10)
            ->runInBackground()
            ->onFailure(function () use ($config) {
                Notification::route('slack', config('services.slack.webhook'))
                    ->notify(new FeedGenerationFailed($config));
            });
    });
}

На сервері достатньо одного запису crontab:

* * * * * php /path/to/artisan schedule:run >> /dev/null 2>&1

Як моніторити свіжість фідів?

Фіди зберігаються в public/feeds/. Для захисту використовуємо HTTP Basic Auth або signed URL:

Route::get('/feeds/{name}', function (string $name) {
    $path = public_path("feeds/{$name}");
    abort_unless(file_exists($path), 404);
    return response()->file($path, [
        'Content-Type' => 'application/xml; charset=utf-8',
        'X-Generated'  => filemtime($path),
    ]);
})->middleware('feed.auth');

Додаткова команда перевіряє, чи не застарів фід (старше 60 хвилин), і надсилає алерт у моніторинг протягом 1 хвилини після виявлення проблеми. Це запобігає блокуванню площадками.

Як уникнути блокувань маркетплейсів?

Використовуйте механізм атомарного перейменування: фід, який подається на площадку, ніколи не буває битим. Якщо генерація перерветься через тайм-аут БД або збій мережі, на диску залишиться попередня повна версія. Додатково налаштовані алерти в Telegram при перевищенні часу генерації більш ніж у 2 рази відносно середнього (наприклад, більше 3 секунд на 10 000 товарів).

Що входить в роботу під ключ

1. Аналітика — розбір вашого каталогу, вимог маркетплейсів, існуючої інфраструктури. Оцінимо проект безкоштовно.
2. Проєктування — архітектура генераторів, конфігурація, схема БД, розклад.
3. Реалізація — написання генераторів для потрібних форматів, інтеграція з планувальником, налаштування моніторингу.
4. Тестування — перевірка на тестовому фіді, валідація на площадках, навантажувальні тести.
5. Деплой та документація — розгортання на вашому сервері, інструкція з управління через адмінку.

Понад 7 років досвіду розробки на Laravel, 50+ успішних інтеграцій з маркетплейсами. Гарантуємо стабільну роботу системи та оперативну підтримку після впровадження. Пишіть нам у Telegram або зв'яжіться для безкоштовної консультації — ми проаналізуємо ваш каталог і підберемо оптимальний розклад. Замовте впровадження системи під ключ та отримайте готову інтеграцію з налаштованими алертами за 3-4 дні.

Послуги бекенд-розробки: production-grade надійність

На production-сервері о 3:14 ночі черга Laravel Jobs перестала оброблятися — 40 000 необроблених завдань у Redis. Причина: worker упав через memory leak у статичній змінній Eloquent observer, supervisor не перезапустив через misconfigured stopwaitsecs. Ми розбирали такий інцидент на проекті з 500 RPS: діагностика 4 години, фікс — 20 хвилин. Щоб ви не втрачали гроші, пропонуємо послуги бекенд-розробки з акцентом на production-grade надійність — 10+ років досвіду, 50+ проектів, 5 років на ринку. Оцінимо ваш проект за 2 дні.

Які проблеми вирішуємо

N+1 запити: головний вбивця швидкості

N+1 — найпоширеніша причина повільних сторінок у Laravel-додатках. Стандартна історія: сторінка працювала нормально на dev з 10 записами, на production з 10 000 — 8-секундне завантаження.

Laravel Debugbar у dev-оточенні показує кількість запитів. Більше 20 — сигнал для audit.

Model::preventLazyLoading(! app()->isProduction());

Telescope для профілювання: логує всі запити, jobs, mail, notifications з деталізацією. Після впровадження eager loading час завантаження сторінки падає з 8 с до 0.3 с — у 27 разів.

Memory leak у статичних змінних

У Laravel Octane або Swoole додаток тримається в пам’яті між запитами. Статичні змінні не скидаються — призводять до неконтрольованого росту пам’яті. Використовуємо defer-функції та контейнерні біндинги для коректного скидання стану.

Неправильний connection pool

Rails, Laravel, Django відкривають нове з'єднання PostgreSQL на кожен PHP/Python процес. 100 воркерів — 100 з'єднань. PostgreSQL деградує від 200+ активних з'єднань через overhead на управління.

PgBouncer у transaction pooling: 1000 воркерів → 20–50 реальних з'єднань. Це знижує latency на 40% та зменшує витрати на хостинг на 30% — при середній вартості хостингу $2,000/міс економить $600/міс. GIN-індекс для JSONB до 100 разів швидший за B-tree при пошуку.

Як Octane справляється з високим навантаженням?

Laravel Octane (RoadRunner або Swoole) прибирає overhead bootstrap на кожен HTTP-запит. Приріст: 3–8x на синтетичних бенчмарках, 2–4x на реальних додатках. Важливо: не зберігати стан у статичних змінних — застосовуємо це на проектах >1000 RPS.

Як PostgreSQL допомагає уникнути повільних запитів?

Використовуємо composite indexes для WHERE + ORDER BY, partial indexes для фільтрів з високою селективністю, GIN-індекси для JSONB та full-text search. to_tsvector + GIN замість LIKE '%query%' — запобігає seq scan навіть на мільйонах записів. Аналізуємо плани через EXPLAIN ANALYZE та pg_stat_statements.

Як обрати стек для вашого проекту?

Node.js виправданий для realtime: Laravel публікує події в Redis Pub/Sub, Node.js підписується та транслює клієнтам. Go — для goroutines (10k з'єднань на сервер — норма), але розробка повільніша, ніж Laravel.

Чому Redis критичний для продуктивності?

Redis виконує кілька ролей:

Redis Cluster для горизонтального масштабування, Sentinel для автоматичного failover. Замовте консультацію щодо оптимізації Redis для вашого проекту.

Що входить в роботу під ключ

• Архітектурне проектування (документація API, схема БД, діаграма сервісів)
• Реалізація за узгодженим ТЗ з code review
• Налаштування CI/CD (GitHub Actions, Docker), моніторингу (Sentry, Grafana), алертингу
• Навантажувальне тестування (k6, wrk) зі звітом
• Передача вихідних кодів, доступів, інструкція з деплою
• Навчання команди замовника (2–3 сесії)
• Гарантійна підтримка 1 місяць після здачі

Орієнтири по термінах

Вартість розраховується індивідуально після аналізу вимог до навантаження, інтеграцій та бізнес-логіки. Зв'яжіться з нами для безкоштовного аудиту вашого поточного backend — отримайте план оптимізації за 2 дні. Замовте консультацію та дізнайтеся, як знизити витрати на інфраструктуру на 30% без втрати продуктивності.