Балансування навантаження Nginx і HAProxy: налаштування під ключ

Балансування навантаження Nginx і HAProxy

Одного разу до нас звернувся проєкт із п'ятьма серверами: при піку 3000 RPS частина запитів ішла в 503 через неоптимальний розподіл. Після впровадження балансування з активними health checks і least-connections навантаження розподілилося рівномірно, uptime виріс до 99.99%. Ми налаштовуємо балансування, яке розподіляє запити по кількох бекендах, виключає єдину точку відмови та дає змогу масштабуватися без зупинки сервісу. За понад 5 років ми реалізували більше 50 проєктів із high-load інфраструктурою, де пікове навантаження сягало 30 000 RPS, і жоден не впав після впровадження балансування.

Які проблеми вирішує балансування?

Балансування вирішує три ключові завдання. Перша — відмовостійкість: при збої одного бекенда трафік автоматично перенаправляється на інші, uptime досягає 99.95%. Друга — горизонтальне масштабування: можна додавати сервери на льоту без перезапуску балансувальника. Третя — оптимальний розподіл навантаження: алгоритми least-connections і weighted round-robin рівномірно розподіляють запити, запобігаючи перевантаженню окремих вузлів.

Чому health checks важливі та як їх налаштувати?

Без health checks балансувальник продовжує надсилати запити на відмовлений сервер, що призводить до помилок для частини користувачів. Пасивні перевірки (вбудовані в Nginx) виключають сервер після певної кількості помилок за заданий інтервал. Активні перевірки (HAProxy, Nginx Plus) опитують /health endpoint кожні 2–3 секунди та миттєво виключають проблемний бекенд. У проєкті з 10 000 RPS заміна пасивних перевірок на активні знизила кількість помилок 5xx на 80%.

Порівняння Nginx і HAProxy

HAProxy обробляє до 50 000 RPS — приблизно в 2.5 рази більше, ніж Nginx у режимі балансування. При цьому HAProxy швидше виявляє збої завдяки активним перевіркам: за даними офіційної документації HAProxy, час виявлення відмовленого сервера скорочується до 2 секунд.

Як вибрати між Nginx і HAProxy?

Вибір залежить від навантаження та додаткових вимог. Nginx підходить, якщо потрібен веб-сервер і балансувальник в одному, навантаження до 20 000 RPS. HAProxy — для чистого балансу з високою продуктивністю (до 50 000+ RPS) і гнучкими ACL. В одному проєкті заміна Nginx на HAProxy знизила затримки на 20% за рахунок швидких health checks і least-connections.

Налаштування балансування з Nginx

Nginx — універсальний інструмент: він працює і як веб-сервер, і як балансувальник. Для 5–20 бекендів його можливостей достатньо. Базовий конфіг включає upstream з keepalive та проксування з таймаутами:

upstream myapp_backend {
    server 10.0.1.10:8080;
    server 10.0.1.11:8080;
    server 10.0.1.12:8080;
    keepalive 32;
}

server {
    listen 443 ssl http2;
    server_name example.com;
    ssl_certificate /etc/letsencrypt/live/example.com/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/example.com/privkey.pem;

    location / {
        proxy_pass http://myapp_backend;
        proxy_http_version 1.1;
        proxy_set_header Connection "";
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        proxy_connect_timeout 5s;
        proxy_read_timeout 60s;
        proxy_next_upstream error timeout http_502 http_503;
    }
}

Для високих навантажень застосовуємо алгоритми least-connections або ip-hash (для sticky sessions). Резервні сервери та пасивні health checks налаштовуються через параметри max_fails і fail_timeout.

Налаштування балансування з HAProxy

HAProxy — спеціалізований балансувальник для навантажень від 10 000 RPS. Він надає гнучкі ACL, детальну статистику та активні health checks. Приклад конфіга для веб-додатку та API:

global
    maxconn 100000
    nbthread 4
    stats socket /run/haproxy/admin.sock mode 660 level admin

defaults
    mode http
    timeout connect 5s
    timeout client 30s
    timeout server 60s

frontend http_front
    bind *:80
    bind *:443 ssl crt /etc/haproxy/certs/example.com.pem alpn h2,http/1.1
    acl is_api path_beg /api/
    use_backend api_backend if is_api
    default_backend web_backend

backend web_backend
    balance leastconn
    option httpchk GET /health
    cookie SERVERID insert indirect nocache
    server web01 10.0.1.10:8080 check inter 3s rise 2 fall 3 cookie web01
    server web02 10.0.1.11:8080 check inter 3s rise 2 fall 3 cookie web02

backend api_backend
    balance roundrobin
    server api01 10.0.2.10:3000 check inter 2s
    server api02 10.0.2.11:3000 check inter 2s

HAProxy підтримує SSL termination (об'єднання сертифіката та ключа в один PEM-файл), TCP-балансування для баз даних і WebSocket, а також вбудовану статистику на порту 8404.

Як налаштувати високу доступність із Keepalived?

Щоб балансувальник сам не став єдиною точкою відмови, налаштовуємо пару Keepalived із плаваючим VIP. При падінні primary-балансувальника backup перехоплює IP за секунди, забезпечуючи uptime 99.99%. Конфігурація включає VRRP-інстанс з інтервалом оголошення 1 секунда та трекінг процесу HAProxy.

Що входить у налаштування?

• Аудит поточної архітектури: сервери, додатки, пропускна здатність.
• Проектування схеми балансування: вибір алгоритмів, health checks, SSL termination.
• Налаштування upstream і резервних серверів.
• Розробка скриптів динамічного оновлення бекендів (якщо потрібно).
• Навантажувальне тестування до 100 000 RPS.
• Документація з експлуатації та інструкції для чергової команди.
• Гарантія 3 місяці на безперебійну роботу балансувальника.

Процес роботи та терміни

Повний цикл займає від 3 до 6 робочих днів залежно від складності.

Типові помилки під час налаштування

Економія на серверній інфраструктурі після впровадження балансування становить до 40%, а час простою знижується на 95%. Отримайте консультацію інженера з балансування навантаження — ми проаналізуємо вашу архітектуру та підберемо оптимальне рішення. Зв'яжіться з нами для оцінки вашого проєкту.

import subprocess
import boto3

def update_nginx_upstream():
    ec2 = boto3.client('ec2', region_name='eu-west-1')
    response = ec2.describe_instances(Filters=[
        {'Name': 'tag:Role', 'Values': ['app']},
        {'Name': 'instance-state-name', 'Values': ['running']},
    ])
    ips = [i['PrivateIpAddress'] for r in response['Reservations'] for i in r['Instances']]
    config = "upstream myapp_backend {\n" + "\n".join(f"    server {ip}:8080;" for ip in ips) + "\n    keepalive 32;\n}\n"
    with open('/etc/nginx/conf.d/upstream.conf', 'w') as f:
        f.write(config)
    subprocess.run(['nginx', '-t'], check=True)
    subprocess.run(['nginx', '-s', 'reload'], check=True)

Ми гарантуємо uptime 99.99% і надаємо підтримку після впровадження. Наші інженери мають сертифікати з Nginx і HAProxy. Замовте консультацію прямо зараз.

Ми регулярно стикаємося з ситуацією: «Сайт не відкривається» о 3 годині ночі — і виявляється, що disk full на VPS, тому що логи nginx не ротувалися півроку. Або сервер ліг під навантаженням у день запуску рекламної кампанії, тому що на shared хостингу стояв ліміт у 50 одночасних з'єднань. Налаштування хостингу та деплою — це не про «де дешевше», це про те, що відбувається в момент, коли щось іде не так. Наша команда допомагає уникнути таких інцидентів, проектуючи інфраструктуру з урахуванням реальних патернів навантаження.

Коли обирати Vercel та Netlify?

Vercel створений під Next.js — деплой в один push, preview deployments для кожного PR, автоматичний CDN, Edge Functions, ISR без конфігурації. Для фронтенд-проєктів та JAMstack це оптимальний вибір: немає операційного навантаження, time-to-deploy вимірюється хвилинами.

Обмеження реальні: Vercel Serverless Functions запускаються в us-east-1 за замовчуванням (latency для Європи +80–100ms), Function timeout 300 секунд на Pro, Bandwidth 1TB/місяць на Pro. Для важкого backend — потрібні воркери або окремий сервер.

Netlify ближчий до статики та Edge Functions на базі Deno Deploy. Build minutes — основне обмеження на безкоштовному тарифі.

Чому Docker — основа передбачуваного деплою?

«Працює на моїй машині» — класика. Docker вирішує це через контейнеризацію середовища. Але поганий Dockerfile створює нові проблеми.

Типова помилка: копіювати все в образ без .dockerignore, отримувати 800MB образ замість 80MB. node_modules всередині образу важить стільки ж. Правильно: multi-stage build.

FROM node:20-alpine AS builder
WORKDIR /app
COPY package*.json ./
RUN npm ci --only=production
COPY . .
RUN npm run build

FROM node:20-alpine AS runner
WORKDIR /app
COPY --from=builder /app/.next ./.next
COPY --from=builder /app/node_modules ./node_modules
COPY --from=builder /app/package.json ./package.json
EXPOSE 3000
CMD ["npm", "start"]

Підсумковий образ: 180MB замість 1.2GB. Час збірки CI скорочується через layer caching — якщо package.json не змінився, шар з npm ci береться з кешу.

Docker Compose для локальної розробки та простих продакшн-сценаріїв: застосунок + PostgreSQL + Redis в одній конфігурації. Для production на одному сервері — цілком робочий варіант, якщо немає вимог горизонтального масштабування.

Детальніше про контейнеризацію — Wikipedia: Docker.

Як налаштувати Nginx як reverse proxy?

Nginx перед застосунком — стандарт для VPS та виділених серверів. Основні функції: SSL termination, gzip, static files, rate limiting, upstream балансування.

Конфігурація, яку часто роблять неправильно: worker_processes auto — кількість процесів дорівнює числу CPU. worker_connections 1024 — це 1024 на кожний воркер-процес. При 4 CPU та 1024 connections = 4096 одночасних з'єднань. Для високонавантаженого сайту потрібно worker_connections 4096 та налаштування keepalive_timeout 65.

Для статичних ассетів з хешем в імені файлу:

location ~* \.(js|css|woff2|png|webp)$ {
    expires 1y;
    add_header Cache-Control "public, immutable";
}

immutable повідомляє браузеру: не перевіряй цей файл навіть при hard refresh. Правильно працює лише з content-hashed іменами файлів (що робить Vite/webpack за замовчуванням). Документація — Wikipedia: Nginx.

AWS: гнучкість та складність

EC2 + Auto Scaling Group — класика для горизонтального масштабування. AMI з попередньо встановленим застосунком, Launch Template, ASG з min/desired/max instances, Application Load Balancer. При CPU > 70% на 3 хвилини — scale out, при CPU < 30% на 15 хвилин — scale in. Health check через ALB виключає нездорові інстанси з ротації.

ECS Fargate — контейнери без управління EC2. Деплой Docker-образу, задаєте CPU/пам'ять (512 CPU units = 0.5 vCPU, від 512MB пам'яті), Fargate запускає. Дорожче Lambda, але немає cold start та немає timeout-обмежень. Підходить для long-running процесів, WebSocket-серверів, важких воркерів.

RDS для PostgreSQL з Multi-AZ: автоматичний failover за 1–2 хвилини при падінні primary. Read Replicas для масштабування читання. RDS Proxy для connection pooling — Lambda-функції не вміють тримати довгострокові з'єднання, проксі буферизує це.

Kubernetes: коли це виправдано

K8s додає значну операційну складність. Виправданий, коли: кілька команд деплоять незалежні сервіси, потрібне тонке налаштування ресурсів на сервіс, canary deployments та blue/green без простою — вимога.

AWS EKS, GKE або managed k8s від Hetzner (дешевше). Helm charts для стандартних сервісів. Horizontal Pod Autoscaler по CPU та custom metrics (RPS через Prometheus).

Для більшості стартапів та середніх проєктів — Kubernetes надмірний. ECS або Fly.io дають 80% можливостей при 20% операційної складності.

Моніторинг та alerting

Сервер без моніторингу — це очікування інциденту. Мінімальний стек: Prometheus + Grafana (або Grafana Cloud для managed), alerting на disk > 80%, memory > 85%, CPU > 90% за 5 хвилин, error rate > 1%. Uptime через Better Uptime або Upptime (self-hosted).

Logs: Loki + Grafana або CloudWatch Logs Insights. Структуровані JSON-логи (winston, pino) — обов'язково, інакше пошук по логах перетворюється на біль.

Що входить у налаштування хостингу

• Аудит поточної інфраструктури та профілювання навантаження
• Вибір цільової архітектури (VPS, AWS, serverless, Kubernetes)
• Налаштування CI/CD pipeline (GitHub Actions, GitLab CI) з автоматичним деплоєм
• IaC через Terraform або Pulumi (інфраструктура як код)
• Конфігурація Nginx, SSL-сертифікати, HTTP/2, brotli
• Моніторинг та алертинг (Prometheus + Grafana, PagerDuty)
• Документація runbooks та навчання команди

Додатково: пишіть, якщо потрібна міграція з поточного хостингу або інтеграція із зовнішніми сервісами.

Процес роботи

1. Аудит поточної інфраструктури (2–5 днів)
2. Вибір цільової архітектури з обґрунтуванням за навантаженням та бюджетом (1–3 дні)
3. Налаштування CI/CD pipeline (GitHub Actions, GitLab CI) (2–5 днів)
4. IaC через Terraform або Pulumi (3–10 днів)
5. Налаштування моніторингу та alerting (2–5 днів)
6. Документація runbooks та навчання команди (1–3 дні)

Наш досвід — 7 років на ринку, понад 50 проєктів, гарантія працездатності після деплою.

Терміни

• Базовий деплой на VPS з Docker + Nginx + CI/CD: 1–2 тижні.
• Налаштування AWS інфраструктури з Auto Scaling, RDS, CDN: 3–6 тижнів.
• Міграція на EKS з нуля: 6–12 тижнів.
• Налаштування Vercel/Netlify для JAMstack: 3–5 днів.

Вартість розраховується індивідуально залежно від складності та обсягу робіт. Отримайте консультацію — оцінимо вашу архітектуру за один день.