Налаштування автоскейлінгу серверів мобільного додатку

Налаштування автоскейлінгу серверів мобільного додатку

Ми знаємо, як виглядає 503 на екрані користувача після push-розсилки. Коли 3000 rps б'ють в один под — сервер падає, рейтинг в store летить вниз. Автоскейлінг вирішує цю проблему, але його налаштування потребує розуміння архітектури. У нашій практиці — 50+ проєктів, де правильно налаштований HPA та KEDA скоротили витрати на інфраструктуру на 30–50%. У цьому матеріалі розбираємо, як досягти zero-downtime для мобільного API з гарантією SLA.

Як вибрати між HPA та KEDA?

Для мобільного API з push-сповіщеннями KEDA реагує на зміни навантаження в 2–3 рази швидше, ніж HPA за CPU, тому що скейлінг запускається до приходу трафіку.

Види автоскейлінгу і коли що застосовувати

Horizontal Pod Autoscaler в Kubernetes — додає поди при зростанні навантаження, прибирає при спаді. Базова метрика — CPU utilization, але для мобільного API краще: latency p99, кількість запитів у черзі, або custom metric з Prometheus.

Vertical Pod Autoscaler — змінює requests/limits пода. Корисно для JVM-сервісів, де memory зростає в міру прогріву heap. Але VPA потребує рестарту пода при зміні ресурсів — не підходить для stateful сервісів.

Cluster Autoscaler — додає/прибирає Kubernetes nodes у хмарі (AWS EC2, GCP GKE, Azure AKS). Працює спільно з HPA: HPA хоче 5 подів, але немає місця — Cluster Autoscaler додає ноду.

KEDA — скейлінг за зовнішніми метриками: довжина черги в RabbitMQ, Kafka lag, кількість повідомлень у Redis Streams. Для мобільного додатку з чергою push-сповіщень: воркери масштабуються за кількістю задач у черзі, а не за CPU.

Налаштування HPA для мобільного API

Проблема стандартного CPU-скейлінгу: при піку запитів CPU спочатку зростає, потім HPA вирішує додати под (15–30 секунд), под стартує (ще 10–30 секунд), проходить readiness probe. Разом: 30–60 секунд поки новий под почне приймати трафік. За цей час частина мобільних клієнтів отримала 503.

Рішення:

• Predictive scaling — заздалегідь масштабуємося перед очікуваним піком (відправка пуша → одразу scale out)
• ScaleUp faster, ScaleDown slower — scaleUp.stabilizationWindowSeconds: 0 (миттєво масштабуємося вгору), scaleDown.stabilizationWindowSeconds: 300 (чекаємо 5 хвилин перед зменшенням, щоб не пиляти)
• MinReplicas: 2 — ніколи не опускатися до 1 пода, щоб rolling update не давав downtime

spec:
  minReplicas: 2
  maxReplicas: 20
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 60
  behavior:
    scaleUp:
      stabilizationWindowSeconds: 0
      policies:
      - type: Pods
        value: 4
        periodSeconds: 60
    scaleDown:
      stabilizationWindowSeconds: 300

Покрокова інструкція з налаштування HPA:

1. Визначте метрику (CPU, memory або custom).
2. Встановіть target utilization (50–70% для CPU).
3. Налаштуйте behavior для scaleUp (швидко) та scaleDown (повільно).
4. Вкажіть minReplicas >= 2.
5. Протестуйте з навантажувальним тестуванням.
6. Моніторте latency та помилки.

Чому CPU-based scaling не підходить для мобільного API?

CPU зростає із затримкою відносно запитів — це факт. Поки HPA виявить пік і додасть под, частина клієнтів вже бачить 503. Для мобільного API краще використовувати метрики p99 latency або request queue depth. У нашому кейсі з новинним додатком iOS ми вирішили це через KEDA з чергою SQS — масштабування починалося до приходу трафіку, і 503 зникли.

Cold start проблема для мобільного трафіку

Go та Node.js стартують за 1–3 секунди — прийнятно. JVM-додатки (Spring Boot) — 10–20 секунд. Lambda (serverless) — cold start 500ms–3 секунди залежно від runtime та розміру пакета.

Для JVM: тримати мінімум 2 поди завжди гарячими. GraalVM Native Image — старт 0.1–0.3 секунди, але потребує налаштування reflection конфігурації. Spring Boot 3 + GraalVM Native — робоча комбінація в production.

Для serverless (AWS Lambda, Google Cloud Functions): Provisioned Concurrency тримає N інстансів прогрітими. Дорожче, але cold start зникає для цих інстансів.

Кейс: новинний додаток iOS. Після публікації редакційного пуша — 40 000 одночасних відкриттів за 2 хвилини. Один под на 2 vCPU справлявся з 400 rps. HPA налаштований на CPU 60% — до моменту додавання пода пікове навантаження вже минуло. Рішення: KEDA з метрикою з CloudWatch (кількість повідомлень у SQS-черзі пушів) — при відправці пуша автоматично додавалося 8 подів ще до приходу трафіку. Нуль 503 при наступних трьох розсилках.

Що входить у налаштування під ключ

• Аудит поточної архітектури та навантажувального тестування.
• Налаштування HPA, VPA, Cluster Autoscaler або KEDA.
• Конфігурація custom metrics (Prometheus, CloudWatch, Datadog).
• Оптимізація cold start (GraalVM, Provisioned Concurrency).
• Документація зі схем масштабування.
• Моніторинг та алерти на основі SLO.
• Навчання вашої команди (1 сесія).
• Підтримка 2 тижні після здачі.

Замовте налаштування під ключ: терміни від 2 до 14 днів залежно від складності. Отримайте консультацію з масштабування — наші інженери сертифіковані AWS/GCP та мають 10+ років досвіду. Зв'яжіться з нами, щоб обговорити ваш сценарій — ми допоможемо підібрати оптимальну схему.

Офіційна документація Kubernetes по HPA

З правильною конфігурацією економія на хмарних ресурсах досягає 40%, а вартість експлуатації знижується на $500–2000 на місяць для середнього проєкту.

MVVM, Clean Architecture, BLoC, VIPER, TCA: проєктуємо архітектуру під ключ

Додаток зібрано в одному ViewController на 2000 рядків. Мережеві виклики, бізнес-логіка, оновлення UI — все в одному місці. Додати нову фічу без регресії складно, написати тест неможливо. Це не «поганий код» — це відсутність архітектури. І це трапляється частіше, ніж можна очікувати, навіть у production-додатках з мільйоном користувачів.

Ми проєктуємо архітектуру під ключ: від вибору паттерну до повної структури проєкту з тестами та документацією. За 7–10 днів отримуєте чистий модульний код, готовий до масштабування. Ваша команда зможе додавати нові фічі без ризику зламати існуючі, а тести покриють ключову логіку вже на старті. Архітектурні паттерни в мобайлі вирішують одне завдання: відокремити UI від логіки так, щоб кожна частина була тестованою та замінною.

MVVM — базовий паттерн

Model-View-ViewModel — стандарт для iOS (SwiftUI + Combine/async, UIKit + Combine) та Android (Jetpack ViewModel + StateFlow + Compose). ViewModel містить стан UI та бізнес-логіку. View лише відображає стан і передає наміри користувача до ViewModel. Model — дані та їх джерело.

Ключове правило: ViewModel не знає про UIKit або Android View-класи. Немає імпортів UIKit, немає Context-залежностей (крім Application context через Hilt). Це гарантує тестованість: ViewModel тестується як чистий Kotlin/Swift-код без Android Instrumented Test.

MVVM закриває 70% потреб. Інші 30% — де потрібна строга ізоляція фіч, масштабування команди, складний flow управління станом.

Clean Architecture — коли MVVM недостатньо

Додає шари поверх MVVM:

Domain-шар — бізнес-логіка, незалежна від платформи. UseCase (або Interactor) містить одне бізнес-правило: GetUserOrdersUseCase, PlaceOrderUseCase. Залежить лише від інтерфейсів (protocol/interface), не від конкретних реалізацій.

Data-шар — реалізація репозиторіїв. OrderRepositoryImpl реалізує OrderRepository з domain. Знає про Retrofit, Room, UserDefaults. ViewModel не знає, звідки дані — з мережі чи кешу.

Presentation-шар — ViewModel + View. Знає про Domain, не знає про Data.

Dependency rule: залежності спрямовані лише всередину. Domain не залежить ні від чого. Data та Presentation залежать від Domain.

Presentation → Domain ← Data

Це дає можливість підміняти реалізацію: тест використовує in-memory репозиторій замість мережевого, інтерфейс залишається тим самим.

Практичне зауваження: Clean Architecture додає файли та шари. Для невеликого додатку це overhead. Виправдано від ~15 фіч та при команді 3+ розробників.

BLoC для Flutter — передбачуваний потік станів

BLoC (Business Logic Component) — стандартний паттерн у Flutter-спільноті. Бібліотека flutter_bloc реалізує його через два типи: Bloc (Event → State) та Cubit (State без Events, лише методи).

Bloc обробляє Event та емітує новий State через on<EventType> хендлери. Стан імутабельний — новий об'єкт на кожну зміну. BlocBuilder перемальовує лише ту частину дерева, де змінився state.

// Подія
alias CartEvent {}
class AddItemToCart extends CartEvent {
  final String productId;
  AddItemToCart(this.productId);
}

// Стан
alias CartState {}
class CartLoaded extends CartState {
  final List<CartItem> items;
  CartLoaded(this.items);
}

// Bloc
class CartBloc extends Bloc<CartEvent, CartState> {
  CartBloc(this._cartRepository) : super(CartLoaded([])) {
    on<AddItemToCart>(_onAddItem);
  }

  Future<void> _onAddItem(AddItemToCart event, Emitter<CartState> emit) async {
    final current = state as CartLoaded;
    final updated = await _cartRepository.addItem(event.productId);
    emit(CartLoaded(updated));
  }
}

Перевага BLoC — тестованість. blocTest з bloc_test пакету дозволяє перевірити: при такому-то Event, з таким-то початковим State, BLoC має емітувати такий-то State. Без UI, без моків для Flutter-фреймворку.

VIPER — для великих iOS-проєктів

VIPER (View, Interactor, Presenter, Entity, Router) — найбільш строгий поділ обов'язків для iOS. Кожен компонент має протокол та конкретну реалізацію.

• View — лише UI, делегує все Presenter
• Interactor — бізнес-логіка, робота з мережею та даними
• Presenter — посередник між View та Interactor, форматує дані для View
• Entity — моделі даних (чисті структури)
• Router — навігація між модулями

Кожен модуль (екран або фіча) — окремий VIPER-модуль. Це виключає coupling між фічами та дозволяє великим командам працювати паралельно без конфліктів.

Ціна: багато файлів, багато протоколів. Шаблонний код генерується через Sourcery або кастомні Xcode-шаблони. VIPER виправданий для додатків з 10+ розробниками та 50+ екранами.

TCA (The Composable Architecture)

TCA від Point-Free — більш сучасна альтернатива VIPER для iOS/macOS. Основні концепції: State (імутабельний стан фічі), Action (всі можливі події), Reducer (State + Action → новий State + Effect), Store (зберігає State, обробляє Actions).

Scope дозволяє composable будувати великі фічі з маленьких: батьківський Reducer делегує частину State дочірньому. Кожна фіча тестується ізольовано через TestStore з точним контролем над Effects.

TCA має круту криву навчання, але дає передбачуваність, яку складно отримати іншим способом: кожна зміна стану — явний Action з конкретним джерелом.

Як обрати архітектуру мобільних додатків?

Оцінимо проєкт за 1 день — підберемо архітектуру з урахуванням розміру команди, платформи та планів зростання.

Універсальної відповіді немає. Архітектуру обирають під розмір команди, вимоги до тестованості та горизонт підтримки додатку.

Що входить у нашу роботу

Процес складається з кількох кроків:

1. Аудит поточної архітектури (якщо додаток вже існує) — виявимо вузькі місця та регресійні зони.
2. Проєктування модульної структури з чіткими межами шарів та правилами залежностей.
3. Створення каркасу проєкту (Scaffold) з впровадженням DI, організації папок та налаштування лінтерів.
4. Написання юніт-тестів для шару домену та ViewModel — мінімум 80% покриття ключових use case.
5. Підготовка документації — архітектурні діаграми, README з правилами модифікації коду, інструкція для онбордингу нових розробників.
6. Передача робочого репозиторію з CI-пайплайном (GitHub Actions / Bitrise), налаштованим запуском тестів та статичним аналізом.

Все це входить у вартість проєктування. Додатково — підтримка на етапі впровадження: консультації команди, code review перших pull request.

Що відбувається без архітектури

Типовий сценарій через 18 місяців без архітектури: 40% часу розробки йде на дебаг регресій. Новий розробник розбирається в коді тиждень перед тим, як зробити перший PR. Тести не пишуться, «тому що складно мокувати». Додавання нової фічі вимагає розуміння половини кодової бази.

Вибір архітектури на старті — це інвестиція з поверненням через 3–6 місяців. За нашими даними, правильно спроєктована архітектура з MVVM + Clean дає в 3 рази менше регресій порівняно з монолітним ViewController. А витрати на її впровадження окупаються за 2–3 спринти. Середня економія на усуненні дефектів після впровадження — до 40% часу, що для команди з п'яти осіб може означати понад 10 000 доларів на рік.

Згідно з рекомендаціями Apple щодо проєктування додатків, розділення обов'язків — ключовий фактор стійкості коду.

Чому варто довірити архітектуру професіоналам?

Неправильний вибір паттерну на старті веде до переписування половини коду через рік. Ми бачили десятки проєктів, де спроба заощадити на архітектурі оберталася багатомісячним рефакторингом. У нас за плечима 10+ років комерційної розробки, досвід роботи з додатками від 1 до 50 розробників, понад 100 успішно реалізованих проєктів. Ми допомагаємо уникнути типових помилок:

• Overengineering для простого MVP (призначаємо MVVM, а не VIPER).
• Відсутність dependency injection — підключаємо Hilt/Koin/Dagger вже на старті.
• Ігнорування тестованості — закладаємо протоколи/інтерфейси з першого коміту.

Зв'яжіться з нами через Telegram або email — отримайте безкоштовну оцінку вашого проєкту та рекомендацію щодо оптимальної архітектури. Замовте проєктування вже сьогодні — і за тиждень стартуйте з чистим, масштабованим кодом.

Додаткова таблиця: порівняння витрат на впровадження

Час вказано для команди з 2–3 розробників. З нашим шаблоном (generator) стартовий каркас готовий за 1 день незалежно від обраного паттерну.