Налаштування контролю витрат на AI-агентів у Paperclip (Cost Control)
AI-агенти без контролю витрат - джерело непередбачуваних рахунків. Один погано налаштований агент у нескінченному циклі може витратити сотні доларів за годину. Paperclip має вбудовані механізми cost control – ми їх налаштовуємо.
рівні обмежень
Per-agent limits:
max_cost_usd на завдання. max_tokens_per_call та max_calls_per_task. При досягненні ліміту – автоматична зупинка та ескалація.
Per-organization daily/monthly budget: Загальний бюджет на всю команду AI. При 80% використання – попередження. При 100% нові завдання не приймаються до скидання періоду або ручного збільшення бюджету.
Cost allocation: Витрати трекуються за агентами, ролями, типами завдань. Виявлення неефективних агентів (високі витрати / низька якість результатів).
Оптимізація вартості
Routing дорогих завдань на GPT-4o, простих – на GPT-4o-mini чи Claude Haiku. Кешування повторюваних запитів (prompt caching у Anthropic знижує вартість на 90% для частини, що кешується). Батчінг незалежних запитів.
Reporting
Щотижневий cost report: топ-5 агентів з витрат, trend, cost per output unit. Допомагає приймати рішення щодо оптимізації конфігурації.