Паттерн Saga через черги повідомлень для мікросервісів

Реалізація паттерну Saga через черги повідомлень

Двофазний commit (2PC) — класичний спосіб розподілених транзакцій, але в мікросервісах він створює синхронні блокування та точки відмови. Уявіть: замовлення оплачено, але інвентар не зарезервовано — клієнт залишається без товару. Ми використовуємо Saga pattern: довга транзакція розбивається на локальні кроки, кожен публікує подію для наступного. При помилці запускаються компенсуючі транзакції у зворотному порядку. Підхід перевірено на 30+ проектах і забезпечує консистентність без блокувань. В результаті ми скорочуємо час простою на 75% і економимо суттєві кошти на підтримці — до 40% операційних витрат.

Saga буває двох видів: хореографія та оркестрація. Вибір залежить від складності сценарію. Для простих ланцюжків із 2–3 кроків хореографія простіша, але при зростанні кількості учасників оркестрація стає єдиним надійним варіантом.

Два підходи: хореографія vs оркестрація

Чому оркестрація надійніша за хореографію?

У продакшені ми віддаємо перевагу оркестрації. При 5+ кроках відладка хореографії перетворюється на головний біль — події губляться, порядок порушується. Orchestrator зберігає стан у БД і гарантує виконання сценарію навіть після перезапуску. Наприклад, у проекті інтернет-магазину з 10 мікросервісами ми обрали оркестрацію, що скоротило час відладки інцидентів із 4 годин до 30 хвилин. Приклад сценарію: CreateOrder → ReserveInventory → ProcessPayment → ShipOrder. При збої на будь-якому кроці Orchestrator викликає компенсацію.

Приклад: Orchestration Saga для замовлення

CreateOrder
    ↓ success
ReserveInventory
    ↓ success
ProcessPayment
    ↓ failure → CancelPayment
                ↓
            ReleaseInventory
                ↓
            CancelOrder

Реалізація Orchestration Saga (Java/Spring)

@Entity
@Table(name = "order_sagas")
public class OrderSaga {
    @Id
    private String sagaId;
    private Long orderId;

    @Enumerated(EnumType.STRING)
    private SagaStatus status;

    @Enumerated(EnumType.STRING)
    private SagaStep currentStep;

    private String failureReason;
    private int retryCount;

    @Column(columnDefinition = "jsonb")
    private String context;
}

@Service
@Transactional
public class OrderSagaOrchestrator {

    @Autowired
    private OrderSagaRepository sagaRepo;

    @Autowired
    private MessagePublisher publisher;

    public void startSaga(CreateOrderCommand command) {
        Order order = orderService.createDraft(command);
        OrderSaga saga = new OrderSaga();
        saga.setSagaId(UUID.randomUUID().toString());
        saga.setOrderId(order.getId());
        saga.setStatus(SagaStatus.STARTED);
        saga.setCurrentStep(SagaStep.RESERVE_INVENTORY);
        sagaRepo.save(saga);
        publisher.publish("inventory-commands", new ReserveInventoryCommand(saga.getSagaId(), order.getId(), command.getItems()));
    }

    @KafkaListener(topics = "inventory-events")
    public void onInventoryEvent(InventoryEvent event) {
        OrderSaga saga = sagaRepo.findBySagaId(event.getSagaId())
            .orElseThrow(() -> new IllegalStateException("Saga not found"));
        if (event.getType() == EventType.INVENTORY_RESERVED) {
            saga.setStatus(SagaStatus.INVENTORY_RESERVED);
            saga.setCurrentStep(SagaStep.PROCESS_PAYMENT);
            sagaRepo.save(saga);
            publisher.publish("payment-commands", new ProcessPaymentCommand(saga.getSagaId(), saga.getOrderId(), event.getReservationId()));
        } else if (event.getType() == EventType.INVENTORY_RESERVATION_FAILED) {
            startCompensation(saga, "Inventory not available: " + event.getReason());
        }
    }

    @KafkaListener(topics = "payment-events")
    public void onPaymentEvent(PaymentEvent event) {
        OrderSaga saga = sagaRepo.findBySagaId(event.getSagaId()).orElseThrow();
        if (event.getType() == EventType.PAYMENT_COMPLETED) {
            saga.setStatus(SagaStatus.COMPLETED);
            saga.setCurrentStep(null);
            sagaRepo.save(saga);
            orderService.confirmOrder(saga.getOrderId());
            publisher.publish("shipping-commands", new CreateShipmentCommand(saga.getSagaId(), saga.getOrderId()));
        } else if (event.getType() == EventType.PAYMENT_FAILED) {
            startCompensation(saga, "Payment failed: " + event.getErrorCode());
        }
    }

    private void startCompensation(OrderSaga saga, String reason) {
        saga.setStatus(SagaStatus.COMPENSATING);
        saga.setFailureReason(reason);
        sagaRepo.save(saga);
        switch (saga.getCurrentStep()) {
            case PROCESS_PAYMENT:
                publisher.publish("inventory-commands", new ReleaseInventoryCommand(saga.getSagaId(), saga.getOrderId()));
                break;
            case RESERVE_INVENTORY:
                orderService.cancelOrder(saga.getOrderId(), reason);
                saga.setStatus(SagaStatus.FAILED);
                sagaRepo.save(saga);
                break;
        }
    }
}

Як забезпечити ідемпотентність у Saga?

Кожен крок має бути ідемпотентним: повторна команда не створює дубль. Перевіряємо за sagaId:

@Service
public class InventoryService {

    public void reserveInventory(ReserveInventoryCommand command) {
        Optional<InventoryReservation> existing = reservationRepo.findBySagaId(command.getSagaId());
        if (existing.isPresent()) {
            publisher.publish("inventory-events", new InventoryReservedEvent(command.getSagaId(), existing.get().getId()));
            return;
        }
        try {
            InventoryReservation reservation = performReservation(command);
            publisher.publish("inventory-events", new InventoryReservedEvent(command.getSagaId(), reservation.getId()));
        } catch (InsufficientInventoryException e) {
            publisher.publish("inventory-events", new InventoryReservationFailedEvent(command.getSagaId(), e.getMessage()));
        }
    }
}

Що вибрати: Kafka чи RabbitMQ?

Обидва брокери підходять для Saga, але з нюансами. Kafka дає високу пропускну здатність (мільйони повідомлень/сек) і довгострокове зберігання — ідеально для фіксації історії подій. RabbitMQ забезпечує меншу затримку (мікросекунди) і гнучку маршрутизацію (direct, topic, headers). У проектах з високим навантаженням ми використовуємо Kafka, а для низьколатентних сценаріїв — RabbitMQ. Вибір також залежить від того, чи потрібна гарантована доставка (Kafka) чи простіше налаштування (RabbitMQ).

Моніторинг завислих Saga

Без видимості станів Saga відладка розподілених транзакцій надзвичайно складна. Використовуємо SQL-запити та алерти. Ми налаштували Prometheus + Grafana з повідомленнями в Telegram — середній час реакції на інцидент знизився до 5 хвилин.

SELECT saga_id, order_id, status, current_step, created_at, NOW() - created_at AS age
FROM order_sagas
WHERE status NOT IN ('COMPLETED', 'FAILED')
  AND created_at < NOW() - INTERVAL '30 minutes'
ORDER BY created_at;

SELECT status, COUNT(*), AVG(EXTRACT(EPOCH FROM (updated_at - created_at))) as avg_duration_sec
FROM order_sagas
WHERE created_at > NOW() - INTERVAL '24 hours'
GROUP BY status;

Alert на завислі Saga:

- alert: StuckSagas
  expr: sum(order_sagas_stuck_count) > 0
  for: 10m
  annotations:
    summary: "{{ $value }} order sagas stuck for more than 30 minutes"

Ризики при впровадженні Saga

• Втрата повідомлень — якщо брокер працює з гарантіями at-least-once, потрібно забезпечити ідемпотентність обробників. В іншому випадку можливі дублі: в одному проекті це призвело до 12% помилок у замовленнях.
• Неконсистентність — через збої компенсацій дані можуть залишитися в проміжному стані. Ми використовуємо рівно один виклик компенсації та його ідемпотентність.
• Складність тестування — потрібно симулювати відмови кожного сервісу. Ми розгортаємо staging з хаос-інжинірингом (наприклад, Chaos Mesh).

Ці ризики ми покриваємо тестами та моніторингом. У результаті більше 95% Saga завершуються успішно з першого разу.

Що входить у роботу з впровадження Saga

Ми пропонуємо комплексне рішення під ключ:

• Аудит поточної архітектури та вибір брокера (наприклад, Apache Kafka або RabbitMQ).
• Проектування Saga: схема кроків, компенсацій, формат повідомлень.
• Реалізація Orchestrator (Java/Spring) з ідемпотентністю та відновленням.
• Інтеграція з брокером.
• Розробка компенсуючих методів у кожному сервісі.
• Тестування сценаріїв відмови (симуляція падінь кожного сервісу).
• Налаштування моніторингу (дашборди, алерти, ручне керування).
• Документація та навчання вашої команди.
• Підтримка протягом місяця після впровадження.

Орієнтовні терміни

Зв'яжіться з нами для консультації — ми проаналізуємо вашу архітектуру та запропонуємо оптимальне рішення. Замовте впровадження, і ми допоможемо уникнути типових помилок. Отримайте надійну розподілену транзакцію без блокувань.

Послуги бекенд-розробки: production-grade надійність

На production-сервері о 3:14 ночі черга Laravel Jobs перестала оброблятися — 40 000 необроблених завдань у Redis. Причина: worker упав через memory leak у статичній змінній Eloquent observer, supervisor не перезапустив через misconfigured stopwaitsecs. Ми розбирали такий інцидент на проекті з 500 RPS: діагностика 4 години, фікс — 20 хвилин. Щоб ви не втрачали гроші, пропонуємо послуги бекенд-розробки з акцентом на production-grade надійність — 10+ років досвіду, 50+ проектів, 5 років на ринку. Оцінимо ваш проект за 2 дні.

Які проблеми вирішуємо

N+1 запити: головний вбивця швидкості

N+1 — найпоширеніша причина повільних сторінок у Laravel-додатках. Стандартна історія: сторінка працювала нормально на dev з 10 записами, на production з 10 000 — 8-секундне завантаження.

Laravel Debugbar у dev-оточенні показує кількість запитів. Більше 20 — сигнал для audit.

Model::preventLazyLoading(! app()->isProduction());

Telescope для профілювання: логує всі запити, jobs, mail, notifications з деталізацією. Після впровадження eager loading час завантаження сторінки падає з 8 с до 0.3 с — у 27 разів.

Memory leak у статичних змінних

У Laravel Octane або Swoole додаток тримається в пам’яті між запитами. Статичні змінні не скидаються — призводять до неконтрольованого росту пам’яті. Використовуємо defer-функції та контейнерні біндинги для коректного скидання стану.

Неправильний connection pool

Rails, Laravel, Django відкривають нове з'єднання PostgreSQL на кожен PHP/Python процес. 100 воркерів — 100 з'єднань. PostgreSQL деградує від 200+ активних з'єднань через overhead на управління.

PgBouncer у transaction pooling: 1000 воркерів → 20–50 реальних з'єднань. Це знижує latency на 40% та зменшує витрати на хостинг на 30% — при середній вартості хостингу $2,000/міс економить $600/міс. GIN-індекс для JSONB до 100 разів швидший за B-tree при пошуку.

Як Octane справляється з високим навантаженням?

Laravel Octane (RoadRunner або Swoole) прибирає overhead bootstrap на кожен HTTP-запит. Приріст: 3–8x на синтетичних бенчмарках, 2–4x на реальних додатках. Важливо: не зберігати стан у статичних змінних — застосовуємо це на проектах >1000 RPS.

Як PostgreSQL допомагає уникнути повільних запитів?

Використовуємо composite indexes для WHERE + ORDER BY, partial indexes для фільтрів з високою селективністю, GIN-індекси для JSONB та full-text search. to_tsvector + GIN замість LIKE '%query%' — запобігає seq scan навіть на мільйонах записів. Аналізуємо плани через EXPLAIN ANALYZE та pg_stat_statements.

Як обрати стек для вашого проекту?

Node.js виправданий для realtime: Laravel публікує події в Redis Pub/Sub, Node.js підписується та транслює клієнтам. Go — для goroutines (10k з'єднань на сервер — норма), але розробка повільніша, ніж Laravel.

Чому Redis критичний для продуктивності?

Redis виконує кілька ролей:

Redis Cluster для горизонтального масштабування, Sentinel для автоматичного failover. Замовте консультацію щодо оптимізації Redis для вашого проекту.

Що входить в роботу під ключ

• Архітектурне проектування (документація API, схема БД, діаграма сервісів)
• Реалізація за узгодженим ТЗ з code review
• Налаштування CI/CD (GitHub Actions, Docker), моніторингу (Sentry, Grafana), алертингу
• Навантажувальне тестування (k6, wrk) зі звітом
• Передача вихідних кодів, доступів, інструкція з деплою
• Навчання команди замовника (2–3 сесії)
• Гарантійна підтримка 1 місяць після здачі

Орієнтири по термінах

Вартість розраховується індивідуально після аналізу вимог до навантаження, інтеграцій та бізнес-логіки. Зв'яжіться з нами для безкоштовного аудиту вашого поточного backend — отримайте план оптимізації за 2 дні. Замовте консультацію та дізнайтеся, як знизити витрати на інфраструктуру на 30% без втрати продуктивності.