Налаштування Spot/Preemptible Instances для batch-завдань

Без Spot-інстансів batch-обробка в хмарі коштує в 3–5 разів дорожче. Клієнти часто переплачують за on-demand ресурси, які простоюють між завданнями. Ми, як інженери, вже понад 5 років використовуємо Spot/Preemptible Instances для зниження витрат на 60–80% без втрати надійності. Нижче — конкретні методи, конфігурації та готові рішення, перевірені на десятках проєктів.

Які завдання ефективніше виконувати на Spot-інстансах?

Spot-інстанси ідеальні для stateless batch-завдань: CI/CD воркери (кожен білд ізольований), обробка зображень і відео (transcoding, resize), ML training з checkpoint-based підходами, парсинг та ETL-пайплайни, рендеринг, антивірусні скани, аналітичні запити. Вони не підходять для stateful баз даних (ризик втрати даних), веб-серверів без швидкого заміщення та сервісів із жорстким SLA без DR-стратегії.

Як Spot Fleet знижує ймовірність переривань?

Ключ до стабільності — Spot Fleet із кількома типами інстансів. Якщо m5.xlarge недоступний, Fleet підхопить m5a.xlarge або c4.xlarge. Використовуємо стратегію capacityOptimized — вона обирає пули з найбільшою вільною ємністю, знижуючи ймовірність переривання. Приклад конфігурації:

{
  "SpotFleetRequestConfig": {
    "AllocationStrategy": "capacityOptimized",
    "TargetCapacity": 10,
    "LaunchTemplateConfigs": [
      {
        "LaunchTemplateSpecification": {"LaunchTemplateId": "lt-xxx", "Version": "1"},
        "Overrides": [
          {"InstanceType": "m5.xlarge", "WeightedCapacity": 1},
          {"InstanceType": "m5a.xlarge", "WeightedCapacity": 1},
          {"InstanceType": "m4.xlarge", "WeightedCapacity": 1},
          {"InstanceType": "c5.xlarge", "WeightedCapacity": 1}
        ]
      }
    ]
  }
}

Чому checkpointing критично важливий?

Spot-інстанси можуть бути зупинені в будь-який момент. Без checkpointing втрата прогресу робить їхню економію безглуздою. Реалізація механізму збереження стану дозволяє перезапускати завдання з останньої збереженої точки, мінімізуючи втрати. На практиці це дає до 95% корисного часу виконання навіть при частих перериваннях.

Як правильно обробити Spot Interruption Notice?

За 2 хвилини AWS надсилає metadata-подію (детальніше в документації AWS). Застосунок має опитувати endpoint і при сигналі переривання зберігати checkpoint. У коді нижче — реалізація на Python із graceful exit:

import requests
import signal
import sys

def check_spot_interruption():
    """Викликати кожні 5 секунд із воркера"""
    try:
        response = requests.get(
            'http://169.254.169.254/latest/meta-data/spot/interruption-notice',
            timeout=1
        )
        if response.status_code == 200:
            return True  # Переривання очікується
    except requests.exceptions.RequestException:
        pass
    return False

class BatchWorker:
    def process_task(self, task):
        # Checkpoint кожні N елементів
        for i, item in enumerate(task.items):
            if i % 100 == 0 and check_spot_interruption():
                self.save_checkpoint(task.id, i)
                sys.exit(0)  # Graceful exit, завдання буде перезапущено

            self.process_item(item)

        task.mark_complete()

Етапи обробки переривання:

1. Опитування endpoint метаданих кожні 5 секунд.
2. При отриманні сигналу — збереження checkpoint (наприклад, у S3 або Redis).
3. Graceful exit з кодом 0, щоб черга (SQS) не вважала завдання таким, що впало.

Також можна використовувати AWS EventBridge для автоматизації: подія → Lambda → збереження checkpoint, видалення інстанса з пулу, повернення завдання в чергу.

Що таке Karpenter і як він керує Spot-вузлами?

Karpenter (AWS) автоматично обирає тип інстанса (включаючи Spot) та обробляє переривання: при отриманні сповіщення він cordon та drain ноду, переплануючи под. Приклад Provisioner:

apiVersion: karpenter.sh/v1alpha5
kind: Provisioner
metadata:
  name: batch-workers
spec:
  requirements:
    - key: "karpenter.sh/capacity-type"
      operator: In
      values: ["spot", "on-demand"]
    - key: "node.kubernetes.io/instance-type"
      operator: In
      values: ["m5.xlarge", "m5a.xlarge", "m4.xlarge", "c5.xlarge"]
  taints:
    - key: batch
      effect: NoSchedule
  consolidation:
    enabled: true

Порівняння стратегій: Karpenter порівняно з ручним управлінням Spot Fleet скорочує час реагування на переривання вдвічі за рахунок автоматичного cordon та drain. Spot Fleet — простота, але вимагає ручного керування шаблонами. Karpenter — динамічне масштабування та автоматичне відновлення, але складніший у налаштуванні. Обидва дають економію 60–80%.

GCP Preemptible / Spot VMs: нюанси

GCP Preemptible: максимум 24 години життя, сповіщення за 30 секунд. Spot VMs — без ліміту 24 годин, тільки за availability. Створення через gcloud:

gcloud compute instances create batch-worker \
  --machine-type=n2-standard-4 \
  --provisioning-model=SPOT \
  --instance-termination-action=STOP \
  --zone=us-central1-a

Тут також застосовується checkpointing, але з урахуванням коротшого сповіщення (30 секунд). Реалізація аналогічна AWS, але з опитуванням через GCP metadata server.

Що входить у налаштування під ключ?

• Аудит поточних workloads і вибір відповідних
• Проєктування Spot Fleet / Provisioner із кількома типами інстансів
• Реалізація checkpointing та обробки переривань (код на Python/Go/Java)
• Інтеграція з EventBridge, Lambda, чергами (SQS, RabbitMQ)
• Налаштування моніторингу (CloudWatch, Prometheus) та сповіщень
• Документація та навчання команди
• Тестування із симуляцією переривань
• Post-launch підтримка 1 місяць

Терміни орієнтовно

Вартість розраховується індивідуально під ваш обсяг і складність. Замовити оцінку — просто напишіть нам. Ми гарантуємо прозоре ціноутворення та фіксацію обсягу робіт.

Реальна економія на цифрах

Типова економія становить 60–80% порівняно з on-demand. Надбавка за переривання та перезапуски — 5–15% часу. На одному з проєктів із ML training на p3.2xlarge економія досягла 70%. Наші клієнти підтверджують: грамотна реалізація checkpoint окупається за 1–2 місяці. Зв'яжіться з нами для розрахунку економії під ваше навантаження. Замовте аудит ваших batch-завдань — наші інженери з 5+ років досвіду та сертифікаціями AWS/GCP допоможуть знизити рахунок за хмару без втрати продуктивності.

Ми регулярно стикаємося з ситуацією: «Сайт не відкривається» о 3 годині ночі — і виявляється, що disk full на VPS, тому що логи nginx не ротувалися півроку. Або сервер ліг під навантаженням у день запуску рекламної кампанії, тому що на shared хостингу стояв ліміт у 50 одночасних з'єднань. Налаштування хостингу та деплою — це не про «де дешевше», це про те, що відбувається в момент, коли щось іде не так. Наша команда допомагає уникнути таких інцидентів, проектуючи інфраструктуру з урахуванням реальних патернів навантаження.

Коли обирати Vercel та Netlify?

Vercel створений під Next.js — деплой в один push, preview deployments для кожного PR, автоматичний CDN, Edge Functions, ISR без конфігурації. Для фронтенд-проєктів та JAMstack це оптимальний вибір: немає операційного навантаження, time-to-deploy вимірюється хвилинами.

Обмеження реальні: Vercel Serverless Functions запускаються в us-east-1 за замовчуванням (latency для Європи +80–100ms), Function timeout 300 секунд на Pro, Bandwidth 1TB/місяць на Pro. Для важкого backend — потрібні воркери або окремий сервер.

Netlify ближчий до статики та Edge Functions на базі Deno Deploy. Build minutes — основне обмеження на безкоштовному тарифі.

Чому Docker — основа передбачуваного деплою?

«Працює на моїй машині» — класика. Docker вирішує це через контейнеризацію середовища. Але поганий Dockerfile створює нові проблеми.

Типова помилка: копіювати все в образ без .dockerignore, отримувати 800MB образ замість 80MB. node_modules всередині образу важить стільки ж. Правильно: multi-stage build.

FROM node:20-alpine AS builder
WORKDIR /app
COPY package*.json ./
RUN npm ci --only=production
COPY . .
RUN npm run build

FROM node:20-alpine AS runner
WORKDIR /app
COPY --from=builder /app/.next ./.next
COPY --from=builder /app/node_modules ./node_modules
COPY --from=builder /app/package.json ./package.json
EXPOSE 3000
CMD ["npm", "start"]

Підсумковий образ: 180MB замість 1.2GB. Час збірки CI скорочується через layer caching — якщо package.json не змінився, шар з npm ci береться з кешу.

Docker Compose для локальної розробки та простих продакшн-сценаріїв: застосунок + PostgreSQL + Redis в одній конфігурації. Для production на одному сервері — цілком робочий варіант, якщо немає вимог горизонтального масштабування.

Детальніше про контейнеризацію — Wikipedia: Docker.

Як налаштувати Nginx як reverse proxy?

Nginx перед застосунком — стандарт для VPS та виділених серверів. Основні функції: SSL termination, gzip, static files, rate limiting, upstream балансування.

Конфігурація, яку часто роблять неправильно: worker_processes auto — кількість процесів дорівнює числу CPU. worker_connections 1024 — це 1024 на кожний воркер-процес. При 4 CPU та 1024 connections = 4096 одночасних з'єднань. Для високонавантаженого сайту потрібно worker_connections 4096 та налаштування keepalive_timeout 65.

Для статичних ассетів з хешем в імені файлу:

location ~* \.(js|css|woff2|png|webp)$ {
    expires 1y;
    add_header Cache-Control "public, immutable";
}

immutable повідомляє браузеру: не перевіряй цей файл навіть при hard refresh. Правильно працює лише з content-hashed іменами файлів (що робить Vite/webpack за замовчуванням). Документація — Wikipedia: Nginx.

AWS: гнучкість та складність

EC2 + Auto Scaling Group — класика для горизонтального масштабування. AMI з попередньо встановленим застосунком, Launch Template, ASG з min/desired/max instances, Application Load Balancer. При CPU > 70% на 3 хвилини — scale out, при CPU < 30% на 15 хвилин — scale in. Health check через ALB виключає нездорові інстанси з ротації.

ECS Fargate — контейнери без управління EC2. Деплой Docker-образу, задаєте CPU/пам'ять (512 CPU units = 0.5 vCPU, від 512MB пам'яті), Fargate запускає. Дорожче Lambda, але немає cold start та немає timeout-обмежень. Підходить для long-running процесів, WebSocket-серверів, важких воркерів.

RDS для PostgreSQL з Multi-AZ: автоматичний failover за 1–2 хвилини при падінні primary. Read Replicas для масштабування читання. RDS Proxy для connection pooling — Lambda-функції не вміють тримати довгострокові з'єднання, проксі буферизує це.

Kubernetes: коли це виправдано

K8s додає значну операційну складність. Виправданий, коли: кілька команд деплоять незалежні сервіси, потрібне тонке налаштування ресурсів на сервіс, canary deployments та blue/green без простою — вимога.

AWS EKS, GKE або managed k8s від Hetzner (дешевше). Helm charts для стандартних сервісів. Horizontal Pod Autoscaler по CPU та custom metrics (RPS через Prometheus).

Для більшості стартапів та середніх проєктів — Kubernetes надмірний. ECS або Fly.io дають 80% можливостей при 20% операційної складності.

Моніторинг та alerting

Сервер без моніторингу — це очікування інциденту. Мінімальний стек: Prometheus + Grafana (або Grafana Cloud для managed), alerting на disk > 80%, memory > 85%, CPU > 90% за 5 хвилин, error rate > 1%. Uptime через Better Uptime або Upptime (self-hosted).

Logs: Loki + Grafana або CloudWatch Logs Insights. Структуровані JSON-логи (winston, pino) — обов'язково, інакше пошук по логах перетворюється на біль.

Що входить у налаштування хостингу

• Аудит поточної інфраструктури та профілювання навантаження
• Вибір цільової архітектури (VPS, AWS, serverless, Kubernetes)
• Налаштування CI/CD pipeline (GitHub Actions, GitLab CI) з автоматичним деплоєм
• IaC через Terraform або Pulumi (інфраструктура як код)
• Конфігурація Nginx, SSL-сертифікати, HTTP/2, brotli
• Моніторинг та алертинг (Prometheus + Grafana, PagerDuty)
• Документація runbooks та навчання команди

Додатково: пишіть, якщо потрібна міграція з поточного хостингу або інтеграція із зовнішніми сервісами.

Процес роботи

1. Аудит поточної інфраструктури (2–5 днів)
2. Вибір цільової архітектури з обґрунтуванням за навантаженням та бюджетом (1–3 дні)
3. Налаштування CI/CD pipeline (GitHub Actions, GitLab CI) (2–5 днів)
4. IaC через Terraform або Pulumi (3–10 днів)
5. Налаштування моніторингу та alerting (2–5 днів)
6. Документація runbooks та навчання команди (1–3 дні)

Наш досвід — 7 років на ринку, понад 50 проєктів, гарантія працездатності після деплою.

Терміни

• Базовий деплой на VPS з Docker + Nginx + CI/CD: 1–2 тижні.
• Налаштування AWS інфраструктури з Auto Scaling, RDS, CDN: 3–6 тижнів.
• Міграція на EKS з нуля: 6–12 тижнів.
• Налаштування Vercel/Netlify для JAMstack: 3–5 днів.

Вартість розраховується індивідуально залежно від складності та обсягу робіт. Отримайте консультацію — оцінимо вашу архітектуру за один день.