Налаштування ескалації AI-агента до людини
Ескалація — це не визнання слабкості системи, а ознака правильно спроектованої автономії. Агент повинен знати межі своїх повноважень та вміти передавати задачу людині своєчасно — до того, як буде завдана шкода.
Тригери ескалації
Конфігураційні обмеження:
- Сума трансакції > $X → ескалація до фінансового контролера
- Лист йде >N адресатам → підтвердження
- Видалення файлів старше N днів → перевірка
- Дія впливає на production систему → узгодження
Семантичні тригери: LLM розпізнає в задачі ознаки ескалації: юридичні загрози ("подати в суд", "звернутися до адвоката"), скарги VIP клієнтів, фінансові претензії, згадування регуляторних органів.
Технічні збої: Інструмент повернув помилку три рази поспіль. Таймаут виконання задачі. Конфліктуючі інструкції в задачі.
Explicit uncertainty: Агент явно виражає невпевненість: "Я не впевнений, чи мені слід..." → автоматична ескалація.
Механізм ескалації
- Агент зупиняє виконання поточної задачі (зберігає state)
- Формує ескаляційне повідомлення: контекст задачи, причина ескалації, запропоновані варіанти
- Відправляє відповідальному через пріоритетний канал (Telegram / SMS / email)
- Чекає рішення (таймаут налаштовується)
- Після рішення людини — продовжує або закриває задачу
Routing ескалацій
Різні типи ескалацій → різні відповідальні. On-call розклад. Fallback при недоступності первинного відповідального (через N хвилин → наступний рівень).