Чому модельна впевненість не дорівнює точності?
GPT-4, Claude 3.5, Gemini — всі сучасні LLM генерують відповіді з суб'єктивно високою впевненістю навіть при помилкових фактах. Logprob близький до 0 на галюцинованому твердженні — стандартна ситуація. RLHF-донавчання погіршує: моделі навчені давати повні зв'язні відповіді, а не говорити «не знаю». Тому впевненість моделі непридатна як сигнал для фільтрації. Необхідний зовнішній верифікатор, і ми гарантуємо його надійність.
Без фактчекінгу бізнес втрачає гроші на репутаційних ризиках і помилкових рішеннях. Впровадження системи верифікації окупається за рахунок зниження витрат на підтримку та підвищення довіри користувачів — економія може досягати 90% від збитків, пов'язаних з помилками. Наші інженери мають сертифікований досвід побудови таких пайплайнів для фінтеху та медицини.
Як влаштована архітектура фактчекінгу в продакшні?
Декомпозиція на атомарні твердження
Перед верифікацією відповідь розбивається на мінімальні перевірювані твердження (claims). «Компанія заснована, наприклад, наприкінці 1990-х і займає 40% ринку» — це два твердження. Використовуємо LLM-виклик з structured output (JSON Schema) або NLP-пайплайн на основі spaCy + coreference resolution. Без декомпозиції верифікатор працює на рівні документа — втрачає точність і не локалізує конкретну помилку.
NLI-верифікація за джерелом
Якщо джерело відоме (RAG-база, завантажений документ), кожне твердження перевіряється через NLI (Natural Language Inference). Застосовуємо cross-encoder nli-deberta-v3-base: на вході — пара (твердження, контекст з джерела), на виході — entailment / neutral / contradiction з імовірностями.
Поріг entailment > 0.75 для прийняття твердження. Contradiction > 0.5 — негайний флаг. Neutral — позначаємо як «не підтверджено джерелом». NLI за джерелом точніше self-consistency в 3-5 разів, а latency становить всього 50–150ms на GPU T4.
Зовнішня верифікація через пошук
Для тверджень без відомого джерела — пошук за зовнішніми API: Tavily Search, Bing Web Search API, або спеціалізовані бази (PubMed для медицини, SEC EDGAR для фінансів, Wikidata SPARQL для загальних фактів). Схема: витягти іменовані сутності (NER) → сформувати верифікаційний запит → отримати топ-3 результати → прогнати NLI між твердженням і кожним результатом → агрегувати.
Який метод верифікації обрати?
| Метод | Коли застосовувати | Точність | Latency |
|---|---|---|---|
| NLI за джерелом | RAG, document QA | Висока | 50–150ms |
| Self-consistency (N=5) | Без джерела | Середня | ×N вартість LLM |
| Зовнішній пошук + NLI | Загальні факти | Середня–висока | 500–1500ms |
| Спеціалізований API | Медицина, право | Висока в домені | Залежить від API |
Практичний кейс: наш досвід
Наш клієнт — новинний агрегатор, система автоматичного реферування статей з GPT-4o. Після запуску виявили: у 12% саммарі з'являються дати, цифри та імена, яких немає у вихідному тексті (вибірка 500 саммарі).
Впровадили пайплайн: claim extraction через функції OpenAI (structured output) → для кожного claim NLI-перевірка проти вихідного тексту (deberta-v3-large-mnli) → claims з entailment < 0.70 позначаються в UI жовтим кольором з відсиланням до оригіналу.
Результат: частка неперевірених тверджень знизилася з 12% до 1.8%. Latency додала 180–220ms на саммарі (батчевий NLI на GPU T4). Досвід наших інженерів дозволив досягти точності верифікації понад 98%.
Порівняння моделей для NLI
| Модель | Розмір | Accuracy (MNLI) | Latency (GPU T4) |
|---|---|---|---|
| DeBERTa-v3-base | 440MB | 87.5% | ~50ms |
| DeBERTa-v3-large | 1.5GB | 90.7% | ~150ms |
| BART-large-mnli | 1.2GB | 89.9% | ~120ms |
Як швидко впровадити фактчекінг?
- Аудит поточних відповідей: збираємо 500+ запитів, класифікуємо типи помилок (дати, цифри, імена).
- Вибір методу верифікації під домен: якщо є RAG — NLI за джерелом, інакше зовнішній пошук.
- Розробка claim extraction з урахуванням специфіки термінології.
- Інтеграція верифікатора в пайплайн: middleware між LLM та UI.
- A/B тест на 10% трафіку, замір precision/recall.
- Моніторинг та доналаштування порогів.
Терміни: 2–4 тижні для інтеграції в існуючий пайплайн. Складні домени з зовнішніми API — до 6 тижнів. Вартість розраховується індивідуально, але окупається за 1–2 місяці за рахунок зниження операційних витрат.
Що входить в нашу роботу
- Аудит поточних відповідей та класифікація типів помилок
- Розробка claim extraction під ваш домен
- Інтеграція NLI-верифікатора або зовнішнього пошуку
- Налаштування порогів та моніторинг метрик
- Документація архітектури та навчання вашої команди
- Підтримка після впровадження
Закажіть консультацію з архітектури фактчекінгу — отримайте оцінку вашого пайплайну та рекомендації. Зв'яжіться з нами для розрахунку проекту.