Автоматичне масштабування ресурсів за навантаженням

Уявіть: ваш інтернет-магазин у п'ятницю ввечері під навантаженням — CPU на 90%, latency зростає, а ви не встигаєте додати сервери вручну. Або навпаки: у будній день сервери простоюють, а ви платите за 80% невикористовуваної потужності. Автомасштабування вирішує обидві проблеми. Ми налаштували autoscaling для 20+ проєктів — від стартапів до enterprise. Нижче — реальний код, конфіги та типові помилки.

Проблеми, які вирішуємо

Переплата за ресурси у спокійний час

Середнє завантаження CPU веб-серверів — 15-20%. Тримати capacity під пік — платити за 80% невикористовуваної потужності. Autoscaling утримує мінімум інстансів і додає нові при зростанні. Наприклад, e-commerce сайт з піковим навантаженням 20k RPS тримає 10 серверів, хоча середнє навантаження 2k RPS. Autoscaling дозволяє тримати 2 сервери і додавати по мірі зростання. Економія на інфраструктурі становить 30-40% від бюджету. Для одного з клієнтів (e-commerce з піковим навантаженням 20k RPS) впровадження скоротило щомісячні витрати на $4500.

Падіння при різких сплесках

DDoS або вірусний пост — навантаження зростає в 10 разів за хвилини. Без масштабування сайт падає. Наше рішення реагує за секунди, використовуючи Target Tracking і scale-out cooldown 60s.

Складність ручного керування

Навіть досвідчений адмін не встигає вручну додавати сервери. Автоматизація виключає людський фактор.

Як ми це робимо: стек і кейс

AWS Auto Scaling Group з Target Tracking

Використовуємо Terraform для опису інфраструктури як коду. Приклад конфігурації:

resource "aws_autoscaling_group" "app" {
  name                = "app-asg"
  min_size            = 2
  max_size            = 20
  desired_capacity    = 3
  vpc_zone_identifier = var.private_subnet_ids

  launch_template {
    id      = aws_launch_template.app.id
    version = "$Latest"
  }

  health_check_type         = "ELB"
  health_check_grace_period = 60

  target_group_arns = [aws_lb_target_group.app.arn]
}

# Target Tracking: тримати CPU на 60%
resource "aws_autoscaling_policy" "cpu_tracking" {
  name                   = "cpu-tracking"
  autoscaling_group_name = aws_autoscaling_group.app.name
  policy_type            = "TargetTrackingScaling"

  target_tracking_configuration {
    predefined_metric_specification {
      predefined_metric_type = "ASGAverageCPUUtilization"
    }
    target_value       = 60.0
    scale_in_cooldown  = 300
    scale_out_cooldown = 60
  }
}

Scale-out cooldown (60s) менший за scale-in (300s) — швидко реагуємо на зростання, повільно прибираємо ресурси.

Kubernetes HPA з кастомними метриками

Horizontal Pod Autoscaler у поєднанні з Prometheus Adapter дозволяє масштабувати за кастомними метриками:

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: app-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: app
  minReplicas: 2
  maxReplicas: 50
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60
    - type: Pods
      pods:
        metric:
          name: http_requests_per_second
        target:
          type: AverageValue
          averageValue: "100"

Метрика http_requests_per_second надходить з Prometheus через kube-state-metrics та Prometheus Adapter.

KEDA: масштабування за зовнішніми джерелами

KEDA (Kubernetes Event-Driven Autoscaling) масштабує поди за довжиною черги RabbitMQ, Kafka, SQS:

apiVersion: keda.sh/v1alpha1
kind: ScaledObject
metadata:
  name: queue-processor
spec:
  scaleTargetRef:
    name: worker-deployment
  minReplicaCount: 1
  maxReplicaCount: 30
  triggers:
    - type: rabbitmq
      metadata:
        host: amqp://rabbitmq:5672/
        queueName: tasks
        queueLength: "50"

Масштабування до нуля при порожній черзі — економить ресурси.

Predictive Scaling

AWS Predictive Scaling передбачає навантаження на основі історичних даних (мінімум 14 днів) і завчасно додає ресурси:

resource "aws_autoscaling_policy" "predictive" {
  name                   = "predictive"
  autoscaling_group_name = aws_autoscaling_group.app.name
  policy_type            = "PredictiveScaling"

  predictive_scaling_configuration {
    mode                         = "ForecastAndScale"
    scheduling_buffer_time       = 300
    max_capacity_breach_behavior = "IncreaseMaxCapacity"

    metric_specification {
      target_value = 60
      predefined_scaling_metric_specification {
        predefined_metric_type = "ASGAverageCPUUtilization"
      }
      predefined_load_metric_specification {
        predefined_metric_type = "ASGTotalNetworkIn"
      }
    }
  }
}

Порівняння методів масштабування

Як обрати правильну метрику?

Метрика — ключ до ефективного масштабування. CPU запізнюється, Request Rate потребує baseline, P95 — найточніший, але складний. На практиці використовуємо комбінацію CPU + Request Rate. Для async-обробників — Queue Depth. Згідно з Amazon EC2 Auto Scaling підтримує кілька метрик в одній політиці. Вартість утримання інфраструктури знижується на 35% при правильно підібраних метриках.

Що робити, якщо масштабування не спрацьовує вчасно?

Перевірте cooldown (scale-out швидше за scale-in), health check grace period. Іноді метрика не встигає оновитися. Рекомендуємо навантажувальний тест з k6: k6 run --vus 1000 --duration 10m script.js.

Процес роботи

1. Аналітика: вивчаємо профіль навантаження, історичні дані, обираємо метрики.
2. Проєктування: визначаємо тип масштабування, інструменти (AWS ASG, K8s HPA, KEDA).
3. Реалізація: пишемо IaC (Terraform/Pulumi), налаштовуємо моніторинг (CloudWatch, Prometheus).
4. Тестування: навантажувальне тестування, перевірка часу відгуку та downtime.
5. Деплой: впровадження в продакшен, алерти (SNS, PagerDuty).
6. Підтримка: моніторинг ефективності, коригування порогів.

Що входить в роботу

• Архітектурна документація
• Код інфраструктури (Terraform/Helm)
• Моніторинг та алерти
• Навантажувальний тест-кейс
• Навчання команди (1 сесія)

Строки реалізації

Вартість розраховується індивідуально після аудиту навантаження. Для розрахунку точної вартості та строків зв'яжіться з нами.

Наш досвід

Більше 5 років займаємося інфраструктурою високого навантаження. Реалізували autoscaling для 20+ проєктів — від стартапів до enterprise (e-commerce, fintech). Використовуємо перевірені рішення з гарантією SLA. Хочете налаштувати autoscaling? Отримайте консультацію — оцінимо ваш проєкт і запропонуємо оптимальне рішення.

Ми регулярно стикаємося з ситуацією: «Сайт не відкривається» о 3 годині ночі — і виявляється, що disk full на VPS, тому що логи nginx не ротувалися півроку. Або сервер ліг під навантаженням у день запуску рекламної кампанії, тому що на shared хостингу стояв ліміт у 50 одночасних з'єднань. Налаштування хостингу та деплою — це не про «де дешевше», це про те, що відбувається в момент, коли щось іде не так. Наша команда допомагає уникнути таких інцидентів, проектуючи інфраструктуру з урахуванням реальних патернів навантаження.

Коли обирати Vercel та Netlify?

Vercel створений під Next.js — деплой в один push, preview deployments для кожного PR, автоматичний CDN, Edge Functions, ISR без конфігурації. Для фронтенд-проєктів та JAMstack це оптимальний вибір: немає операційного навантаження, time-to-deploy вимірюється хвилинами.

Обмеження реальні: Vercel Serverless Functions запускаються в us-east-1 за замовчуванням (latency для Європи +80–100ms), Function timeout 300 секунд на Pro, Bandwidth 1TB/місяць на Pro. Для важкого backend — потрібні воркери або окремий сервер.

Netlify ближчий до статики та Edge Functions на базі Deno Deploy. Build minutes — основне обмеження на безкоштовному тарифі.

Чому Docker — основа передбачуваного деплою?

«Працює на моїй машині» — класика. Docker вирішує це через контейнеризацію середовища. Але поганий Dockerfile створює нові проблеми.

Типова помилка: копіювати все в образ без .dockerignore, отримувати 800MB образ замість 80MB. node_modules всередині образу важить стільки ж. Правильно: multi-stage build.

FROM node:20-alpine AS builder
WORKDIR /app
COPY package*.json ./
RUN npm ci --only=production
COPY . .
RUN npm run build

FROM node:20-alpine AS runner
WORKDIR /app
COPY --from=builder /app/.next ./.next
COPY --from=builder /app/node_modules ./node_modules
COPY --from=builder /app/package.json ./package.json
EXPOSE 3000
CMD ["npm", "start"]

Підсумковий образ: 180MB замість 1.2GB. Час збірки CI скорочується через layer caching — якщо package.json не змінився, шар з npm ci береться з кешу.

Docker Compose для локальної розробки та простих продакшн-сценаріїв: застосунок + PostgreSQL + Redis в одній конфігурації. Для production на одному сервері — цілком робочий варіант, якщо немає вимог горизонтального масштабування.

Детальніше про контейнеризацію — Wikipedia: Docker.

Як налаштувати Nginx як reverse proxy?

Nginx перед застосунком — стандарт для VPS та виділених серверів. Основні функції: SSL termination, gzip, static files, rate limiting, upstream балансування.

Конфігурація, яку часто роблять неправильно: worker_processes auto — кількість процесів дорівнює числу CPU. worker_connections 1024 — це 1024 на кожний воркер-процес. При 4 CPU та 1024 connections = 4096 одночасних з'єднань. Для високонавантаженого сайту потрібно worker_connections 4096 та налаштування keepalive_timeout 65.

Для статичних ассетів з хешем в імені файлу:

location ~* \.(js|css|woff2|png|webp)$ {
    expires 1y;
    add_header Cache-Control "public, immutable";
}

immutable повідомляє браузеру: не перевіряй цей файл навіть при hard refresh. Правильно працює лише з content-hashed іменами файлів (що робить Vite/webpack за замовчуванням). Документація — Wikipedia: Nginx.

AWS: гнучкість та складність

EC2 + Auto Scaling Group — класика для горизонтального масштабування. AMI з попередньо встановленим застосунком, Launch Template, ASG з min/desired/max instances, Application Load Balancer. При CPU > 70% на 3 хвилини — scale out, при CPU < 30% на 15 хвилин — scale in. Health check через ALB виключає нездорові інстанси з ротації.

ECS Fargate — контейнери без управління EC2. Деплой Docker-образу, задаєте CPU/пам'ять (512 CPU units = 0.5 vCPU, від 512MB пам'яті), Fargate запускає. Дорожче Lambda, але немає cold start та немає timeout-обмежень. Підходить для long-running процесів, WebSocket-серверів, важких воркерів.

RDS для PostgreSQL з Multi-AZ: автоматичний failover за 1–2 хвилини при падінні primary. Read Replicas для масштабування читання. RDS Proxy для connection pooling — Lambda-функції не вміють тримати довгострокові з'єднання, проксі буферизує це.

Kubernetes: коли це виправдано

K8s додає значну операційну складність. Виправданий, коли: кілька команд деплоять незалежні сервіси, потрібне тонке налаштування ресурсів на сервіс, canary deployments та blue/green без простою — вимога.

AWS EKS, GKE або managed k8s від Hetzner (дешевше). Helm charts для стандартних сервісів. Horizontal Pod Autoscaler по CPU та custom metrics (RPS через Prometheus).

Для більшості стартапів та середніх проєктів — Kubernetes надмірний. ECS або Fly.io дають 80% можливостей при 20% операційної складності.

Моніторинг та alerting

Сервер без моніторингу — це очікування інциденту. Мінімальний стек: Prometheus + Grafana (або Grafana Cloud для managed), alerting на disk > 80%, memory > 85%, CPU > 90% за 5 хвилин, error rate > 1%. Uptime через Better Uptime або Upptime (self-hosted).

Logs: Loki + Grafana або CloudWatch Logs Insights. Структуровані JSON-логи (winston, pino) — обов'язково, інакше пошук по логах перетворюється на біль.

Що входить у налаштування хостингу

• Аудит поточної інфраструктури та профілювання навантаження
• Вибір цільової архітектури (VPS, AWS, serverless, Kubernetes)
• Налаштування CI/CD pipeline (GitHub Actions, GitLab CI) з автоматичним деплоєм
• IaC через Terraform або Pulumi (інфраструктура як код)
• Конфігурація Nginx, SSL-сертифікати, HTTP/2, brotli
• Моніторинг та алертинг (Prometheus + Grafana, PagerDuty)
• Документація runbooks та навчання команди

Додатково: пишіть, якщо потрібна міграція з поточного хостингу або інтеграція із зовнішніми сервісами.

Процес роботи

1. Аудит поточної інфраструктури (2–5 днів)
2. Вибір цільової архітектури з обґрунтуванням за навантаженням та бюджетом (1–3 дні)
3. Налаштування CI/CD pipeline (GitHub Actions, GitLab CI) (2–5 днів)
4. IaC через Terraform або Pulumi (3–10 днів)
5. Налаштування моніторингу та alerting (2–5 днів)
6. Документація runbooks та навчання команди (1–3 дні)

Наш досвід — 7 років на ринку, понад 50 проєктів, гарантія працездатності після деплою.

Терміни

• Базовий деплой на VPS з Docker + Nginx + CI/CD: 1–2 тижні.
• Налаштування AWS інфраструктури з Auto Scaling, RDS, CDN: 3–6 тижнів.
• Міграція на EKS з нуля: 6–12 тижнів.
• Налаштування Vercel/Netlify для JAMstack: 3–5 днів.

Вартість розраховується індивідуально залежно від складності та обсягу робіт. Отримайте консультацію — оцінимо вашу архітектуру за один день.