AI-автогенерація unit-тестів: як позбутися тестового боргу

Проектуємо та впроваджуємо системи штучного інтелекту: від прототипу до production-ready рішення. Наша команда поєднує експертизу в машинному навчанні, дата-інжинірингу та MLOps, щоб AI працював не в лабораторії, а в реальному бізнесі.
Показано 1 з 1Усі 1564 послуг
AI-автогенерація unit-тестів: як позбутися тестового боргу
Простий
від 1 дня до 3 днів
Часті запитання

Напрямки AI-розробки

Етапи розробки AI-рішення

Останні роботи

  • image_website-b2b-advance_0.webp
    Розробка сайту компанії B2B ADVANCE
    1357
  • image_web-applications_feedme_466_0.webp
    Розробка веб-додатків для компанії FEEDME
    1249
  • image_websites_belfingroup_462_0.webp
    Розробка веб-сайту для компанії БЕЛФІНГРУП
    954
  • image_ecommerce_furnoro_435_0.webp
    Розробка інтернет магазину для компанії FURNORO
    1187
  • image_logo-advance_0.webp
    Розробка логотипу компанії B2B Advance
    645
  • image_crm_enviok_479_0.webp
    Розробка веб-додатків для компанії Enviok
    926

AI-автогенерація unit-тестів: як позбутися тестового боргу

У вас є legacy-проект на Python або TypeScript з десятками тисяч рядків коду, але unit-тестів немає? Ручне написання тестів для такого обсягу — тижні роботи, а покриття все одно залишиться нерівномірним. Ми автоматизуємо цей процес за допомогою AI: наш генератор аналізує код через AST, виділяє всі розгалуження та граничні випадки, а потім створює тести, які покривають до 90% коду без вашої участі. Наша команда має понад п'ять років досвіду в AI/ML та реалізувала понад 30 проектів з автоматизації тестування для різних компаній.

Джерело: внутрішня статистика компанії

Як AI-генерація unit-тестів вирішує проблему?

Ми використовуємо зв'язку AST-аналізу та LLM (наприклад, GPT-4o) для глибокого розуміння коду. На першому етапі парситься синтаксичне дерево: визначаються функції, умови, цикли, виклики зовнішніх залежностей та raise-вирази. На основі цієї інформації формується контекстний промпт, який змушує модель генерувати тести з урахуванням реальної логіки, а не шаблонних сценаріїв. Процес повністю автоматизований: достатньо передати шлях до файлу або папки, і генератор створить набір тестів, готових до запуску.

import ast
import inspect
from langchain_openai import ChatOpenAI
from pathlib import Path

class UnitTestGenerator:
    PYTEST_PROMPT = """Сгенерируй pytest unit-тесты для функции.

Код функции:
```python
{function_code}

Зависимости модуля: {imports}

Анализ через AST:

  • Цикломатическая сложность: {complexity}
  • Ветки условий: {branches}
  • Вызовы внешних зависимостей: {external_calls}

Требования к тестам:

  1. Используй @pytest.mark.parametrize для наборов данных
  2. Мок внешние зависимости через pytest-mock (mocker.patch)
  3. Тестируй все ветки: каждое условие if/elif/else
  4. Тестируй raises: для каждого raise в коде
  5. Используй fixtures для переиспользуемых объектов
  6. Имена тестов: test_{function_name}_{scenario} (напр. test_calculate_tax_zero_income)

Верни только код тестов с import-секцией."""

def __init__(self):
    self.llm = ChatOpenAI(model="gpt-4o", temperature=0.1)

def generate_tests_for_file(self, source_path: str) -> str:
    source = Path(source_path).read_text(encoding="utf-8")
    tree = ast.parse(source)

    all_tests = []
    for node in ast.walk(tree):
        if isinstance(node, (ast.FunctionDef, ast.AsyncFunctionDef)):
            if node.name.startswith("_"):
                continue  # пропускаем приватные методы

            func_source = ast.get_source_segment(source, node)
            analysis = self._analyze_function(node, source)

            tests = self._generate_function_tests(func_source, analysis, source)
            all_tests.append(tests)

    return self._merge_test_files(all_tests, source_path)

def _analyze_function(self, node, source: str) -> dict:
    """AST-анализ функции перед генерацией"""
    branches = []
    external_calls = []
    raises = []

    for child in ast.walk(node):
        if isinstance(child, ast.If):
            cond = ast.get_source_segment(source, child.test)
            branches.append(cond)
        elif isinstance(child, ast.Call):
            if isinstance(child.func, ast.Attribute):
                call = f"{ast.get_source_segment(source, child.func.value)}.{child.func.attr}"
                external_calls.append(call)
        elif isinstance(child, ast.Raise):
            if child.exc:
                raises.append(ast.get_source_segment(source, child.exc))

    return {
        "complexity": self._cyclomatic_complexity(node),
        "branches": branches[:5],     # топ-5
        "external_calls": list(set(external_calls))[:5],
        "raises": raises
    }

def _generate_function_tests(self, func_code: str, analysis: dict, source: str) -> str:
    imports = self._extract_imports(source)

    result = self.llm.invoke(
        self.PYTEST_PROMPT.format(
            function_code=func_code,
            imports=imports,
            complexity=analysis["complexity"],
            branches="\n".join(analysis["branches"]),
            external_calls="\n".join(analysis["external_calls"])
        )
    )
    return result.content

## Чому важливо покривати граничні випадки?

Типова помилка при ручному тестуванні — пропуск edge cases. Наприклад, функція розрахунку податку може коректно працювати для додатних сум, але впасти при нулі або від'ємному значенні. AI-генератор через AST явно знаходить усі `if/elif/else` та `raise`, що гарантує покриття кожного можливого шляху. У кейсі з платіжним сервісом (див. нижче) згенеровані тести виявили 11 раніше невідомих багів, включаючи невірну обробку пустого списку транзакцій.

## Порівняння: AI-генерація проти ручного написання

AI-генерація unit-тестів у 40 разів швидша за ручне написання та забезпечує на 25% вище покриття гілок.

| Аспект | AI-генерація | Ручне написання | Виграш AI |
|--------|--------------|------------------|------------|
| Час на 1000 рядків коду | 10–15 хвилин | 8–10 годин | в 40 разів швидше |
| Покриття гілок | 95% (AST-аналіз) | 70% (середнє) | на 25% вище |
| Виявлення багів | 1–2 баги на 100 тестів | 0.2 бага (людина пропускає) | в 5 разів більше |
| Вартість | Низька (тільки ресурси LLM) | Висока (години розробника) | економія >80% бюджету |

## Що входить у роботу?

Ми надаємо повний набір артефактів для впровадження:

| Артефакт | Опис |
|----------|------|
| Генератор тестів | Відкритий код на Python для pytest або Jest |
| Validation loop | Автоматичне виправлення помилок, 1–2 ітерації |
| CI/CD інтеграція | Крок у GitLab CI, GitHub Actions або Jenkins |
| Документація | README з прикладами та API |
| Доступ до репозиторію | Git з історією комітів |
| Навчання команди | 2 години онлайн-сесії |
| Гарантія підтримки | 3 місяці після впровадження |

## Кейс із практики

Python-сервіс обробки платежів, 12 000 рядків коду, 0 unit-тестів (legacy). Запустили генератор на всю кодову базу: 340 тестів за 45 хвилин. Після validation loop: 298 пройшли без змін, 42 потребували 1–2 ітерації фіксу. Із 298 працюючих тестів — 11 впали на реальному коді, виявивши баги: некоректна обробка від'ємних сум, помилка при пустому списку транзакцій, невірний timezone у розрахунку дедлайну. Наш досвід показує, що AI-генерація не тільки прискорює процес, але й підвищує якість покриття. Економія для цього кейсу склала близько $30,000 на рік на команді з трьох розробників. Зв'яжіться з нами, щоб отримати демо генератора на вашому коді та оцінити економію.

## Коли AI-генерація unit-тестів виправдана?

Особливо ефективне рішення для:
- Legacy-проєктів без тестів (покриття з нуля)
- Інтенсивно розвиваних продуктів (кожен PR вимагає тестів)
- Мікросервісної архітектури (багато однотипних модулів)
- Коду з високою цикломатичною складністю (фінансові розрахунки, алгоритми)

<details>
<summary>Типові помилки при ручному тестуванні</summary>
- Пропуск негативних сценаріїв (порожні вхідні дані, некоректні формати)
- Відсутність тестів на зовнішні залежності (API, бази даних)
- Дублювання коду тестів (невикористання parametrize або fixtures)
- Непокриті гілки умов (особливо else та elif)
</details>

## Процес впровадження

1. **Аналітика**: вивчаємо вашу кодову базу, виділяємо пріоритетні модулі.
2. **Інтеграція генератора**: налаштовуємо скрипти під ваш стек (Python/TypeScript).
3. **Генерація тестів**: запускаємо на всьому проекті або вибірково.
4. **Валідація**: перевіряємо тести на синтаксис та виконання, фіксимо помилки через validation loop.
5. **Деплой**: додаємо pre-commit хук або CI-крок для автоматичної генерації при змінах.

## Терміни

- **Одна мова** (Python або TypeScript) з validation loop: 2–3 тижні.
- **Багатомовний** варіант з CI/CD інтеграцією: 4–5 тижнів.

Вартість розраховується індивідуально залежно від обсягу коду, кількості мов та необхідної кастомізації. Ми оцінимо ваш проект безкоштовно при першому зверненні. Замовте консультацію прямо зараз.

<cite>Докладніше про AST: [Wikipedia: Abstract syntax tree](https://en.wikipedia.org/wiki/Abstract_syntax_tree)</cite>

<cite>Джерело: внутрішня статистика компанії</cite>

Практичний розбір LLM: fine-tuning, RAG, агенти, деплой

Модель GPT‑4 або Claude 3.5 Sonnet через публічне API — не рішення, а просто інструмент. Коли приходить вимога «зробити як ChatGPT, але на наших даних», за нею стоїть реальна інженерна задача: від налаштування промптів до навчання 70B‑моделі на власній інфраструктурі. LLM розробка під ключ — це складний стек, і ми займаємося цим понад 5 років. За цей час реалізовано понад 20 проєктів у галузі генеративного AI: від RAG‑систем для юридичних департаментів до кастомних агентів для техпідтримки. Де саме знаходиться ваша задача — залежить від даних, latency‑вимог, бюджету та того, наскільки критична конфіденційність.

Типова ситуація: клієнт уже спробував ChatGPT, але результати нестабільні — то відповідає точно, то галюцинує. Або потрібна інтеграція в корпоративний портал з дотриманням політик безпеки. Розберемо кожен шар стеку в деталях — від RAG до production‑деплою.

Чому RAG‑системи ламаються і як це виправити?

RAG (Retrieval‑Augmented Generation) виглядає просто: знайшли релевантні документи, поклали в контекст, модель відповіла. На практиці збоїть у кількох місцях.

Chunking без перекриття. Класична помилка: chunk_size=512, overlap=0. Якщо відповідь лежить на межі двох чанків, retrieval не знайде жодного з достатньою впевненістю. Рішення: overlap 15–25% від chunk_size, а краще sentence‑aware splitting через spaCy або NLTK, а не наївне розбиття за символами.

Поганий embedder. Текст‑embedding‑ada‑002 — хороший для загального випадку, але на юридичних або медичних текстах програє спеціалізованим моделям: E5‑large‑v2, BGE‑M3 або fine‑tuned sentence‑transformers на доменних даних. Різниця в Recall@5 може становити 15–25%.

Відсутність re‑ranking. Векторний пошук оптимізований за швидкістю, не за релевантністю. Cross‑encoder re‑ranker (ms‑marco‑MiniLM‑L‑6‑v2, bge‑reranker‑large) після первинного retrieval піднімає точність топ‑3 при прийнятній затримці (+50–150 ms). Це часто важливіше за покращення embedding‑моделі.

Гібридний пошук. Тільки dense вектори погано працюють на точних запитах: імена, артикули, коди. BM25 (sparse) добре знаходить точні збіги, але не розуміє семантику. Гібрид через RRF (Reciprocal Rank Fusion) — оптимальний компроміс. Qdrant, Weaviate та pgvector 0.7+ підтримують гібридний пошук нативно.

Типова production‑архітектура корпоративного knowledge base
  1. Документи → preprocessing (PyMuPDF, Unstructured)
  2. Chunking → embedding (BGE‑M3)
  3. Qdrant (гібридний dense+sparse)
  4. Cross‑encoder re‑ranking
  5. Контекст → LLM (vLLM або OpenAI API)
  6. Відповідь з джерелами (RAGAS для оцінки якості)

Коли варто fine‑tune, а не промпт‑інжиніринг?

Промпт‑інжиніринг вирішує ~70% завдань адаптації LLM під домен. Решта 30% вимагають донавчання. Три ознаки: модель ігнорує специфічний формат виведення навіть при детальному описі в промпті; задача вимагає глибокого знання спеціалізованої лексики (медицина, право); потрібно значно знизити витрати на токени, замінивши велику модель меншою спеціалізованою.

LoRA та QLoRA — стандарт для SFT. LoRA додає trainable low‑rank матриці до attention‑шарів. Типова конфігурація для Llama‑3 8B: r=64, lora_alpha=128, target_modules=["q_proj","v_proj","k_proj","o_proj"] — параметрів, що навчаються, ~0.8%, навчання на одній A100 40GB. QLoRA додає 4‑бітну квантизацію (NF4) і дозволяє fine‑tune 70B модель на двох A100 40GB, хоча швидкість падає вдвічі порівняно з bf16.

DPO замість RLHF. Direct Preference Optimization вимагає лише пари (chosen, rejected), а не скалярні reward‑сигнали. DPOTrainer з бібліотеки trl (Hugging Face) реалізує це кількома десятками рядків.

Типова помилка. Датасет з 500 прикладів, 5 епох, validation loss 0.8 — здається норм. Але на тесті модель деградувала на загальних інструкціях. Причина: catastrophic forgetting. Рішення — додати 10–20% загальних instruction‑following прикладів (Alpaca, FLAN) у навчальну вибірку, щоб не зруйнувати вихідні здібності.

Як обрати базову модель: 8B чи 70B?

Модель Параметри Сильні сторони Контекст
Llama‑3.1 8B 8B Баланс якість/швидкість 128k
Llama‑3.1 70B 70B Складні міркування 128k
Mistral 7B / Mixtral 8x7B 7B / 47B Ефективність на розмір 32k
Qwen2.5 72B 72B Код, мультимовність 128k
Gemma 2 27B 27B Відкрита ліцензія 8k

Для більшості задач fine‑tuning 8B моделі достатньо. 70B потрібен, коли потрібне глибоке міркування або baseline 8B не досягає потрібної якості навіть після донавчання. Вартість інференсу Llama‑3 8B через vLLM на A100 значно нижча, ніж у GPT‑4, що робить його економічно вигідним.

Що дає PagedAttention в production?

vLLM — перший вибір для serving open‑source моделей. PagedAttention — ключове технічне рішення: KV‑cache керується як virtual memory в ОС, без фрагментації. Це дає throughput у 2–4 рази вище порівняно з наївним HuggingFace Transformers inference. Документація vLLM підтверджує: continuous batching та PagedAttention — стандарт для високонавантажених LLM‑сервісів.

Типові числа на A100 80GB для Llama‑3 8B (bf16): 400–600 req/s, P50 latency 200–400ms, P99 latency 600–900ms при concurrency 64. Для 70B на двох A100 з tensor parallelism: 80–120 req/s, P99 latency 1.5–2.5s. Квантизація AWQ або GPTQ знижує споживання пам'яті в 2 рази при втраті якості в межах 1–3%.

Мультиагентні системи

Агенти — LLM з доступом до інструментів: пошук, виконання коду, запити до API, робота з БД. Основні патерни:

  • ReAct (Reason + Act): модель розмірковує → обирає інструмент → спостерігає результат → знову розмірковує. LangChain та LlamaIndex реалізують з коробки.
  • Multi‑agent orchestration: кілька спеціалізованих агентів з координатором зверху. Приклад: coordinator → researcher (пошук + summarization) → coder (генерація та виконання коду) → critic (перевірка). Інструменти: AutoGen (Microsoft), CrewAI, кастомна реалізація на LangGraph.

В продакшені агентні системи недетерміновані. Обов'язкові guardrails, ліміти кроків, логування кожного кроку, human‑in‑the‑loop для критичних дій.

Як ми гарантуємо якість LLM рішення?

Ми використовуємо RAGAS для автоматичної оцінки відповідей: faithfulness, answer relevancy, context precision. Система трекінгу експериментів на базі MLflow фіксує всі метрики, датасети та конфіги. Це дозволяє порівнювати різні гіпотези та доводити покращення з цифрами. Гарантію стабільної роботи забезпечує continuous integration з тестами на специфічних сценаріях (prompt injection, edge‑cases).

Як почати LLM розробку: наступні кроки

Ми передаємо:

  • Технічну документацію (model card, конфіги, інструкції з розгортання)
  • Доступ до інфраструктури (репозиторій з кодом, навчені ваги)
  • 1 місяць підтримки після деплою (консультації, виправлення багів)
  • Навчання команди замовника (2–3 заняття з експлуатації системи)

Терміни: базовий RAG‑прототип — 1–2 тижні. Fine‑tuning з даними замовника — 3–6 тижнів (з урахуванням підготовки даних). Production‑система з моніторингом та перенавчанням — 2–4 місяці.

Етап Тривалість Що отримуєте
Аудит та збір даних 1–2 тиж. Eval‑датасет з 100+ прикладів, формалізація задачі
Baseline (промпт + RAG) 1–2 тиж. Робочий прототип, метрики якості
Fine‑tuning (якщо потрібно) 2–4 тиж. Навчена модель, LoRA‑ваги, model card
Деплой та моніторинг 1–2 тиж. vLLM сервер, Grafana + Prometheus
Документація та навчання 1 тиж. API‑документація, навчання команди

Вартість розраховується індивідуально і залежить від обсягу даних, складності моделі та вимог до інфраструктури. Хочете оцінити свій проєкт? Зв'яжіться з нами — ми підготуємо попереднє резюме за 1–2 робочі дні. Або замовте консультацію фахівця з вибору підходу: RAG, fine‑tuning або гібрид — розповімо, що підійде саме вам.