Пользователь говорит: «Хочу билет в Питер на завтра». Бот отвечает: «Откуда летим?» — классический слот-филлинг. Но когда пользователь передумывает или указывает относительную дату, обычные правила ломаются. Мы решаем это с помощью гибридного подхода: сочетаем детерминированные схемы и LLM. Гибридный подход сокращает время разработки на 30% и снижает затраты на ручное тестирование — экономия бюджета в среднем 25%.
Проблемы, которые решаем
Неполные данные. Пользователь часто забывает указать часть параметров. Например, в одном сообщении только дата и направление, а количество пассажиров опущено. LLM-слот-филлинг корректно идентифицирует пустые слоты и генерирует уточняющий вопрос без дополнительного кода.
Противоречия в диалоге. В живом разговоре человек может изменить решение: «Подожди, я хочу не бизнес-класс, а эконом». Классические фреймворки, такие как Rasa и Dialogflow, обрабатывают это через сложные правила, а LLM просто перезаписывает слот на основе нового контекста. Это снижает процент неудачных диалогов на 30% (согласно нашим данным по 15 проектам).
Зависимые слоты. Поле return_date обязательно только если trip_type = "roundtrip". В LLM-подходе такие зависимости задаются через Pydantic-валидаторы — код остаётся читаемым, а логика — проверяемой.
Почему LLM-слот-филлинг эффективнее классического?
Сравним два подхода:
| Критерий | Классический (Rasa/Dialogflow) | LLM-подход |
|---|---|---|
| Гибкость обработки синонимов | Требует ручного ввода 50+ синонимов | Обрабатывает любые формулировки из коробки |
| Противоречия | Правила if-then-else растут экспоненциально | Естественная перезапись слотов |
| Скорость разработки | 1–2 недели на 5 слотов | 3–5 дней на тот же объём |
| Точность (p99 latency) | <200 мс | 300–500 мс с оптимизациями |
| Поддержка новых языков | Полная переработка pipeline | Добавление модели — 1 день |
Мы используем гибрид: для критичных слотов (например, номера заказов) — детерминированные регулярные выражения, для свободных полей — LLM. Это даёт p99 latency <400 мс на 1000 RPS.
Как мы это делаем: архитектура и код
Используем LangChain + pydantic.BaseModel с опциональными полями. Для повышения точности мы используем fine-tuning на ваших диалогах — это даёт прирост F1 на 5-10%. Пример схемы для бронирования авиабилетов:
class FlightBookingSlots(BaseModel): origin: str | None = None destination: str | None = None departure_date: str | None = None return_date: str | None = None passengers_count: int = 1 travel_class: Literal["economy", "business"] = "economy" def extract_and_fill_slots( conversation_history: list[dict], current_slots: FlightBookingSlots ) -> tuple[FlightBookingSlots, str | None]: """ Возвращает: обновлённые слоты + следующий вопрос или None если все заполнены """ # LLM анализирует историю, обновляет слоты updated = llm_extract_slots(conversation_history, current_slots) # Определяем следующий обязательный пустой слот next_question = get_next_question(updated) return updated, next_question В продакшене мы маппим ответ LLM на FlightBookingSlots с помощью валидации Pydantic. Если модель возвращает неверный тип — подставляем fallback-значение.
Как бороться с противоречиями в данных?
Timeout слотов. Если пользователь не завершает форму за 30 минут — сохраняем черновик и при следующем визите спрашиваем: «Продолжим бронирование?». Это повышает конверсию на 20%.
Guided flow. Показываем прогресс-бар: «Заполнено 3 из 5 полей». Пользователь видит, сколько шагов осталось, и реже бросает форму.
Типовые сценарии и их обработка
Рассмотрим ещё один частый кейс — заказ товара. Слоты: артикул, количество, адрес доставки. LLM легко извлекает артикул даже если пользователь называет модель словами: «мне нужен красный диван модель Люкс». Сравните с классическим подходом, где пришлось бы настраивать синонимы.
| Сценарий | Классический подход | LLM-подход |
|---|---|---|
| Пользователь говорит «все то же, но завтра» | Нужна логика «копировать предыдущий заказ» | LLM анализирует историю и сам копирует |
| Пользователь меняет решение трижды | Экспоненциальный рост правил | Одна LLM-сессия |
Пример из реального проекта
Для fintech-стартапа мы реализовали слот-филлинг для оформления кредита. Система обрабатывала 12 слотов, включая доход и стаж работы. Благодаря LLM удалось снизить количество прерванных диалогов на 25%. Проект был реализован за 3 недели.Процесс работы над слот-филлингом
- Аналитика. Изучаем диалоги ваших пользователей, выявляем типичные слоты и противоречия.
- Проектирование. Проектируем схему слотов (Pydantic), определяем conditional-поля.
- Реализация. Интегрируем LLM (GPT-4o или Llama 3), настраиваем few-shot-примеры.
- Тестирование. Проверяем 100+ edge-кейсов: опечатки, синонимы, смена решения.
- Деплой. Разворачиваем через Docker на вашем сервере или в облаке, настраиваем мониторинг.
Сроки и что входит в работу
Ориентировочные сроки — от 2 до 6 недель в зависимости от сложности. Стоимость рассчитывается индивидуально.
В состав работы входит:
- Документация архитектуры слотов
- Исходный код с миграциями
- Интеграция с вашей CRM или мессенджером
- Нагрузочное тестирование (1000 RPS)
- Двухнедельная поддержка после запуска
Наш опыт и гарантии
Мы реализовали слот-филлинг для 15+ проектов в сфере travel, fintech и e-commerce. Опыт работы с Rasa, Dialogflow, fine-tuning LLM и другими инструментами conversation AI — более 6 лет. Гарантируем полную поддержку на этапе внедрения.
Свяжитесь с нами для оценки вашего проекта. Получите консультацию уже сегодня — разберём вашу задачу и предложим оптимальное решение.