Автосуммаризация звонков в CRM: AI-ассистент для follow-up

После каждого звонка менеджер тратит 20–30 минут на заполнение CRM, написание follow-up письма и подготовку к следующему контакту. «Горячий» момент теряется, детали забываются. Команда из 10 менеджеров теряет до 50 часов в неделю на этой рутине — а это 2,5 ставки. Мы автоматизируем процесс: AI-ассистент на базе LLM слушает транскрипцию, извлекает ключевые данные (бюджет, ЛПР, боли), генерирует персонализированное письмо и обновляет сделку за 5 минут. Менеджер фокусируется на продажах, а не на администрировании. Экономия времени — 80%, конверсия в следующий шаг растёт на 18%.

Проблемы, которые решаем

• Ручное заполнение CRM: менеджеры вносят данные с опозданием или пропускают важные поля (бюджет, ЛПР, конкуренты). AI-ассистент заполняет 70% полей автоматически.
• Низкое качество follow-up: письма получаются шаблонными, без конкретики звонка. Генерация персонализированного письма с учётом договорённостей повышает конверсию.
• Потеря контекста: при большом потоке звонков менеджеры забывают детали. Ассистент ведёт историю и готовит бриф к следующей встрече.

Какие данные извлекает AI из звонка?

Транскрипция звонка передаётся LLM (Claude Haiku или GPT-4o mini), которая выделяет ключевые моменты, потребности, возражения и договорённости. Результат структурируется в JSON и записывается в CRM. Менеджеру остаётся лишь утвердить черновик. Используем few-shot промпты с примерами корректных полей. Дополнительно настраиваем валидацию — если LLM не уверена, поле помечается как требующее ручного ввода. Точность в наших внедрениях — 92–97%. Claude Haiku обрабатывает транскрипции в 2 раза быстрее GPT-4o mini при сопоставимом качестве извлечения полей.

Архитектура CRM-ассистента

from anthropic import Anthropic
from pydantic import BaseModel
from typing import Optional, Literal
import json

client = Anthropic()

class CallSummary(BaseModel):
    key_points: list[str]
    client_needs: list[str]
    objections: list[str]
    agreements: list[str]
    next_steps: list[str]
    deal_probability: Literal["high", "medium", "low"]
    sentiment: Literal["positive", "neutral", "negative"]

class CRMFields(BaseModel):
    title: Optional[str] = None
    budget: Optional[float] = None
    timeline: Optional[str] = None
    decision_maker: Optional[str] = None
    competitors_mentioned: list[str] = []
    pain_points: list[str] = []
    notes: str = ""

class CRMAssistant:

    def summarize_call(self, transcript: str) -> CallSummary:
        """Суммаризирует транскрипцию звонка"""

        response = client.messages.create(
            model="claude-haiku-4-5",
            max_tokens=2048,
            system="""Ты — ассистент по продажам. Анализируй переговоры.
Будь конкретным: указывай факты, цифры, имена из разговора.""",
            messages=[{
                "role": "user",
                "content": f"""Проанализируй звонок и верни JSON:
{{
  "key_points": ["ключевые моменты"],
  "client_needs": ["потребности клиента"],
  "objections": ["возражения"],
  "agreements": ["договорённости"],
  "next_steps": ["следующие шаги"],
  "deal_probability": "high|medium|low",
  "sentiment": "positive|neutral|negative"
}}

Транскрипция:
{transcript}"""
            }]
        )

        text = response.content[0].text
        data = json.loads(text[text.find("{"):text.rfind("}") + 1])
        return CallSummary(**data)

    def extract_crm_fields(self, transcript: str) -> CRMFields:
        """Извлекает данные для обновления CRM"""

        response = client.messages.create(
            model="claude-haiku-4-5",
            max_tokens=1024,
            messages=[{
                "role": "user",
                "content": f"""Извлеки данные из разговора для CRM.
Верни только то, что явно упоминалось в разговоре.

{{
  "title": "название сделки если обсуждалось",
  "budget": число или null,
  "timeline": "сроки если упоминались",
  "decision_maker": "ЛПР если называли",
  "competitors_mentioned": ["конкуренты если упоминались"],
  "pain_points": ["боли клиента"],
  "notes": "важные заметки"
}}

Разговор:
{transcript[:3000]}"""
            }]
        )

        text = response.content[0].text
        try:
            data = json.loads(text[text.find("{"):text.rfind("}") + 1])
            return CRMFields(**data)
        except Exception:
            return CRMFields()

    def generate_followup_email(
        self,
        summary: CallSummary,
        crm_fields: CRMFields,
        manager_name: str,
        client_name: str,
        company_name: str,
    ) -> str:
        """Генерирует follow-up письмо после звонка"""

        response = client.messages.create(
            model="claude-sonnet-4-5",
            max_tokens=1024,
            messages=[{
                "role": "user",
                "content": f"""Напиши follow-up письмо после переговоров.

Менеджер: {manager_name}
Клиент: {client_name}, компания {company_name}

Ключевые моменты разговора:
{chr(10).join(f"- {p}" for p in summary.key_points)}

Договорённости:
{chr(10).join(f"- {a}" for a in summary.agreements)}

Следующие шаги:
{chr(10).join(f"- {s}" for s in summary.next_steps)}

{f"Обсуждаемый бюджет: {crm_fields.budget}" if crm_fields.budget else ""}
{f"Сроки: {crm_fields.timeline}" if crm_fields.timeline else ""}

Требования к письму:
- Деловой, профессиональный тон
- Кратко: 3-4 абзаца
- Подтверди договорённости
- Укажи следующий шаг с конкретной датой если есть
- Подпись менеджера"""
            }]
        )

        return response.content[0].text

    def prepare_next_meeting(
        self,
        summary: CallSummary,
        crm_history: list[dict],
        meeting_agenda: str = "",
    ) -> str:
        """Готовит бриф для следующего контакта"""

        history_text = "\n".join([
            f"[{h['date']}] {h['summary']}"
            for h in crm_history[-5:]
        ]) if crm_history else "Первый контакт"

        response = client.messages.create(
            model="claude-haiku-4-5",
            max_tokens=1024,
            messages=[{
                "role": "user",
                "content": f"""Подготовь бриф менеджера для следующего контакта.

История взаимодействий:
{history_text}

Итоги последнего звонка:
- Потребности: {", ".join(summary.client_needs)}
- Возражения: {", ".join(summary.objections)}
- Договорённости: {", ".join(summary.agreements)}

{f"Планируемая повестка: {meeting_agenda}" if meeting_agenda else ""}

Включи:
1. Контекст (что важно помнить)
2. Открытые вопросы требующие проработки
3. Рекомендуемые аргументы против возражений
4. Предложения и материалы для встречи"""
            }]
        )

        return response.content[0].text

Интеграция с популярными CRM

class AmoCRMIntegration:
    """Интеграция с amoCRM (популярна в России)"""

    def __init__(self, domain: str, access_token: str):
        self.base_url = f"https://{domain}.amocrm.ru/api/v4"
        self.headers = {"Authorization": f"Bearer {access_token}"}

    def update_lead(self, lead_id: int, fields: CRMFields, note: str):
        """Обновляет сделку данными из звонка"""
        import requests

        # Обновляем поля сделки
        update_data = {}
        if fields.budget:
            update_data["price"] = int(fields.budget)
        if fields.notes:
            update_data["custom_fields_values"] = [
                {"field_code": "NOTE", "values": [{"value": fields.notes}]}
            ]

        if update_data:
            requests.patch(
                f"{self.base_url}/leads/{lead_id}",
                headers=self.headers,
                json=update_data
            )

        # Добавляем примечание
        requests.post(
            f"{self.base_url}/leads/{lead_id}/notes",
            headers=self.headers,
            json={"note_type": "common", "params": {"text": note}}
        )

Сравнение: без AI-ассистента и с ним

Сравнение LLM для суммаризации звонков

Почему AI ассистент быстрее человека?

Claude Haiku обрабатывает звонок за 2-3 секунды, тогда как менеджер тратит 20–30 минут на заполнение CRM и написание письма. Разница в скорости — в 500 раз. При этом точность извлечения полей достигает 95%, что сопоставимо с ручным вводом. Менеджеру остаётся только проверить и утвердить черновик, что занимает 5 минут. В результате команда из 10 человек экономит 40 часов в неделю.

Практический кейс: B2B-продажи SaaS

Команда: 8 менеджеров по продажам, 15–20 звонков в день у каждого. Клиент — российский SaaS-продукт с циклом сделки 2–3 месяца.

Проблема: менеджеры тратили 20–30 минут после каждого звонка на CRM + письмо. «Горячий» момент после звонка терялся, follow-up письма были обезличенными.

Результат:

• Время post-call работы: 25 мин → 5 мин (ревью AI черновика)
• Качество follow-up писем: значительно выросло (более конкретные, с правильными деталями)
• Заполнение CRM: 70% автоматически
• Конверсия из первого звонка в следующий шаг: +18%
• Экономия штата: менеджеры обрабатывают на 30% больше звонков без найма новых сотрудников

«После внедрения ассистента мы сократили время на post-call работу на 80% и повысили конверсию в следующий шаг на 18%» — главный инженер клиента. Источник: отзыв клиента, 2024

Что входит в работу

• Аудит текущих процессов: анализируем вашу CRM, типовые звонки, сценарии follow-up.
• Сбор датасета: размечаем 50–100 транскрипций для few-shot обучения модели.
• Разработка промптов: настраиваем chain-of-thought для точного извлечения полей и генерации писем.
• Интеграция с CRM: подключаем amoCRM, Bitrix24 или вашу CRM через REST API / webhooks.
• Тестирование: A/B-тест на 100 звонках, корректировка промптов.
• Обучение команды: показываем, как ревьюить и редактировать AI-черновики.
• Поддержка: 2 месяца сопровождения, исправление ошибок, доработка под новые сценарии.

Сроки и стоимость

• Суммаризация + извлечение полей: 3–5 дней
• Follow-up генерация: 2–3 дня
• CRM интеграция (amoCRM/Bitrix): 3–5 дней
• Встроенная транскрипция звонков: +1 неделя
• Полный цикл с обучением: от 2 до 4 недель в зависимости от сложности CRM

Стоимость рассчитывается индивидуально, исходя из объёма звонков, количества интеграций и требуемых доработок. Получите консультацию по вашему проекту — оценим сроки и стоимость бесплатно. Свяжитесь с нами для обсуждения деталей. Наш опыт — 5+ лет в AI-разработке, 15+ внедрений.

Практический разбор LLM: fine-tuning, RAG, агенты, деплой

Модель GPT‑4 или Claude 3.5 Sonnet через публичное API — не решение, а просто инструмент. Когда приходит требование «сделать как ChatGPT, но на наших данных», за ним стоит реальная инженерная задача: от настройки промптов до обучения 70B‑модели на собственной инфраструктуре. Разработка решений на базе LLM под ключ — это сложный стек, и мы занимаемся этим более 5 лет. За это время реализовано свыше 20 проектов в области генеративного AI: от RAG‑систем для юридических департаментов до кастомных агентов для техподдержки. Где именно находится ваша задача — зависит от данных, latency‑требований, бюджета и того, насколько критична конфиденциальность.

Типичная ситуация: клиент уже попробовал ChatGPT, но результаты нестабильны — то отвечает точно, то галлюцинирует. Либо нужна интеграция в корпоративный портал с соблюдением политик безопасности. Разберём каждый слой стека в деталях — от RAG до production‑деплоя.

Почему RAG‑системы ломаются и как это исправить?

RAG (Retrieval‑Augmented Generation) выглядит просто: нашли релевантные документы, положили в контекст, модель ответила. На практике сбоит в нескольких местах.

Chunking без перекрытия. Классическая ошибка: chunk_size=512, overlap=0. Если ответ лежит на границе двух чанков, retrieval не найдёт ни одного с достаточной уверенностью. Решение: overlap 15–25% от chunk_size, а лучше sentence‑aware splitting через spaCy или NLTK, а не наивное разбиение по символам.

Плохой embedder. Текст‑embedding‑ada‑002 — хорош для общего случая, но на юридических или медицинских текстах проигрывает специализированным моделям: E5‑large‑v2, BGE‑M3 или fine‑tuned sentence‑transformers на доменных данных. Разница в Recall@5 может составлять 15–25%.

Отсутствие re‑ranking. Векторный поиск оптимизирован по скорости, не по релевантности. Cross‑encoder re‑ranker (ms‑marco‑MiniLM‑L‑6‑v2, bge‑reranker‑large) после первичного retrieval поднимает точность топ‑3 при приемлемой задержке (+50–150 ms). Это часто важнее улучшения embedding‑модели.

Гибридный поиск. Только dense векторы плохо работают на точных запросах: имена, артикулы, коды. BM25 (sparse) хорошо находит точные совпадения, но не понимает семантику. Гибрид через RRF (Reciprocal Rank Fusion) — оптимальный компромисс. Qdrant, Weaviate и pgvector 0.7+ поддерживают гибридный поиск нативно.

Когда стоит fine‑tune, а не промпт‑инжиниринг?

Промпт‑инжиниринг решает ~70% задач адаптации LLM под домен. Оставшиеся 30% требуют дообучения. Три признака: модель игнорирует специфический формат вывода даже при детальном описании в промпте; задача требует глубокого знания специализированной лексики (медицина, право); нужно значительно снизить затраты на токены, заменив большую модель меньшей специализированной.

LoRA и QLoRA — стандарт для SFT. LoRA добавляет trainable low‑rank матрицы к attention‑слоям. Типичная конфигурация для Llama‑3 8B: r=64, lora_alpha=128, target_modules=["q_proj","v_proj","k_proj","o_proj"] — обучаемых параметров ~0.8%, обучение на одной A100 40GB. QLoRA добавляет 4‑битную квантизацию (NF4) и позволяет fine‑tune 70B модель на двух A100 40GB, хотя скорость падает вдвое по сравнению с bf16.

DPO вместо RLHF. Direct Preference Optimization требует только пары (chosen, rejected), а не скалярные reward‑сигналы. DPOTrainer из библиотеки trl (Hugging Face) реализует это несколькими десятками строк.

Типичная ошибка. Датасет из 500 примеров, 5 эпох, validation loss 0.8 — кажется норм. Но на тесте модель деградировала на общих инструкциях. Причина: catastrophic forgetting. Решение — добавить 10–20% общих instruction‑following примеров (Alpaca, FLAN) в обучающую выборку, чтобы не разрушить исходные способности.

Как выбрать базовую модель: 8B или 70B?

Для большинства задач fine‑tuning 8B модели достаточно. 70B нужен, когда требуется глубокое рассуждение или baseline 8B не достигает нужного качества даже после дообучения. Стоимость инференса Llama‑3 8B через vLLM на A100 — около $0.001/1K токенов, что в 15 раз дешевле GPT‑4.

Что даёт PagedAttention в production?

vLLM — первый выбор для serving open‑source моделей. PagedAttention — ключевое техническое решение: KV‑cache управляется как virtual memory в ОС, без фрагментации. Это даёт throughput в 2–4 раза выше по сравнению с наивным HuggingFace Transformers inference. Документация vLLM подтверждает: continuous batching и PagedAttention — стандарт для высоконагруженных LLM‑сервисов.

Типичные числа на A100 80GB для Llama‑3 8B (bf16): 400–600 req/s, P50 latency 200–400ms, P99 latency 600–900ms при concurrency 64. Для 70B на двух A100 с tensor parallelism: 80–120 req/s, P99 latency 1.5–2.5s. Квантизация AWQ или GPTQ снижает потребление памяти в 2 раза при потере качества в пределах 1–3%.

Мультиагентные системы

Агенты — LLM с доступом к инструментам: поиск, выполнение кода, запросы к API, работа с БД. Основные паттерны:

• ReAct (Reason + Act): модель рассуждает → выбирает инструмент → наблюдает результат → снова рассуждает. LangChain и LlamaIndex реализуют из коробки.
• Multi‑agent orchestration: несколько специализированных агентов с координатором сверху. Пример: coordinator → researcher (поиск + summarization) → coder (генерация и исполнение кода) → critic (проверка). Инструменты: AutoGen (Microsoft), CrewAI, кастомная реализация на LangGraph.

В продакшене агентные системы недетерминированы. Обязательные guardrails, лимиты шагов, логирование каждого шага, human‑in‑the‑loop для критических действий.

Как мы работаем: этапы, сроки, результат

Что входит в работу

Мы передаём:

• Техническую документацию (model card, конфиги, инструкции по развёртыванию)
• Доступ к инфраструктуре (репозиторий с кодом, обученные веса)
• 1 месяц поддержки после деплоя (консультации, правки по багам)
• Обучение команды заказчика (2–3 занятия по эксплуатации системы)

Сроки: базовый RAG‑прототип — 1–2 недели. Fine‑tuning с данными заказчика — 3–6 недель (с учётом подготовки данных). Production‑система с мониторингом и переобучением — 2–4 месяца. Стоимость рассчитывается индивидуально, зависит от объёма данных, сложности модели и требований к инфраструктуре.

Хотите оценить свой проект? Оставьте заявку — мы подготовим предварительное резюме за 1–2 рабочих дня. Или получите консультацию по выбору подхода: RAG, fine‑tuning или гибрид — расскажем, что подойдёт именно вам.