Разработка мобильного AI-ассистента на Claude (Anthropic)

Зачем Claude для мобильного AI-ассистента?

Представьте: пользователь загружает PDF договора на 100 страниц и хочет задать вопросы по нему. Обычные ассистенты с 8K контекста не справляются — приходится резать документ, теряя целостность. Claude решает эту проблему: его контекстное окно 200K токенов позволяет загрузить весь документ целиком и отвечать по нему без RAG-пайплайна. Мы более 5 лет разрабатываем мобильные решения и гарантируем качество интеграции AI в ваше приложение. Оценим проект за 1–2 дня — просто напишите нам. Типичный бюджет на разработку текстового ассистента — от $2,000 до $4,000, а с поддержкой документов и изображений — до $10,000.

Anthropic Messages API: структура и особенности

Anthropic API по структуре похожа на OpenAI, но с важными отличиями. Системный промпт в Claude — отдельный параметр system, а не сообщение с ролью system в массиве messages. Это критически важно: попытка передать системный промпт внутри messages ухудшает качество следования инструкциям.

struct AnthropicRequest: Encodable {
    let model: String          // "claude-3-5-sonnet-20241022"
    let maxTokens: Int         // обязательный параметр, нет дефолта
    let system: String         // системный промпт — отдельно
    let messages: [Message]
    let stream: Bool

    enum CodingKeys: String, CodingKey {
        case model, system, messages, stream
        case maxTokens = "max_tokens"
    }
}

max_tokens в Anthropic API — обязательный параметр без дефолта. Если забыть его передать, API вернёт ошибку 400. Это отличается от OpenAI, где max_tokens опционален.

Аутентификация: заголовок x-api-key (не Authorization: Bearer). Версионирование API через anthropic-version: 2023-06-01. Без этого заголовка — 400 Bad Request.

Как реализовать стриминг от Claude на iOS?

Claude поддерживает стриминг через Server-Sent Events. Структура потока отличается от OpenAI: события content_block_start, content_block_delta, content_block_stop, message_delta — каждое содержит свои поля.

Вот пошаговая инструкция по реализации на iOS:

1. Инициализируйте URLSession и создайте запрос с заголовками.
2. Используйте bytes (AsyncSequence) для чтения потока.
3. Для каждой строки проверяйте префикс "data: ".
4. Декодируйте JSON в структуру с полем type.
5. Для content_block_delta извлекайте текст и обновляйте UI в главном потоке.

for try await line in response.bytes.lines {
    guard line.hasPrefix("data: ") else { continue }
    let jsonString = String(line.dropFirst(6))
    guard jsonString != "[DONE]" else { break }

    if let data = jsonString.data(using: .utf8),
       let event = try? JSONDecoder().decode(StreamEvent.self, from: data),
       event.type == "content_block_delta" {
        let delta = event.delta?.text ?? ""
        await MainActor.run { self.appendText(delta) }
    }
}

Важно обрабатывать все типы событий, а не только content_block_delta — message_delta содержит информацию о stop_reason (например, max_tokens), которую нужно показывать пользователю.

Преимущества большого контекста на мобиле

200K токенов — примерно 150 000 слов или ~500 страниц текста. Для мобильного ассистента это возможность работать с полным документом без RAG-пайплайна. Пользователь прикрепил PDF договора — его можно целиком передать в контекст и задавать вопросы.

Оборотная сторона: большой контекст = долгий time-to-first-token. При 50K токенов в запросе первый токен ответа может прийти через 3–5 секунд даже на хорошем соединении. На мобиле нужен индикатор прогресса, который появляется сразу, до первого токена, иначе пользователь думает, что приложение зависло.

Стоимость также растёт линейно с контекстом — для приложений с пользовательской оплатой это важно учитывать при проектировании UI счётчика токенов. Claude 3.5 Sonnet обрабатывает контекст в 200K токенов в 2 раза быстрее, чем GPT-4o с аналогичным объёмом, что делает его идеальным для мобильных сценариев с длинными диалогами. Экономия на токенах может достигать 40% по сравнению с конкурентами, а общие затраты на инфраструктуру снижаются благодаря встроенной поддержке длинного контекста.

Что даёт большой контекст 200K токенов для мобильного пользователя?

Сравним ключевые параметры Claude 3.5 Sonnet и GPT-4o на мобиле:

Claude выигрывает по объёму контекста и скорости при работе с большими данными. API строже, но это уменьшает количество ошибок при правильной настройке.

Vision: передача изображений в Claude

Claude 3.5 Sonnet поддерживает изображения через base64 в content block:

let imageContent = ContentBlock(
    type: "image",
    source: ImageSource(
        type: "base64",
        mediaType: "image/jpeg",
        data: imageBase64
    )
)

Ограничение: максимум 20 изображений в одном запросе, каждое до 5 МБ. На мобиле перед отправкой изображение нужно сжать до разумного размера — UIGraphicsImageRenderer или BitmapFactory.Options с inSampleSize.

Процесс работы и что входит

Ключевые параметры для уточнения: нужна ли работа с документами (PDF, изображения), каков ожидаемый объём диалога, нужен ли серверный прокси (да — обязательно, API-ключ не хранится в приложении).

В состав работы входит:

• Документация по интеграции Claude API для вашей платформы
• Настроенный прокси-сервер с аутентификацией
• Готовый Swift/Kotlin клиент для стриминга
• Инструкция по прохождению App Store Review (учёт требований ATT, In-App Purchase)
• 2 недели технической поддержки после запуска

Реализация: Anthropic API клиент → стриминговый UI → управление историей с учётом 200K лимита → опциональная работа с файлами.

Ориентиры по срокам

Базовый текстовый ассистент — 1–2 недели. С поддержкой документов, изображений, серверным прокси — 3–4 недели. Точные сроки зависят от вашего стека и специфики. Закажите бесплатную консультацию — мы покажем демо-версию и рассчитаем стоимость. 50+ проектов с AI-интеграцией за нашими плечами. Свяжитесь с нами для получения бесплатной оценки проекта.

Документация Anthropic API: https://docs.anthropic.com/en/api

AI и ML в мобильных приложениях: CoreML, TFLite и on-device модели

Мы различаем два принципиально разных подхода: приложение с on-device AI и приложение, которое просто вызывает облачное API. Первое работает без интернета, не отправляет данные пользователя на сторонние серверы и отвечает за 50 миллисекунд. Второе зависит от задержки сети и тарифного плана. Выбор архитектуры — ключевой этап, который напрямую влияет на стоимость, приватность и пользовательский опыт. Наш опыт показывает: в 70% проектов on-device инференс оказывается дешевле в долгосрочной перспективе за счёт исключения серверных затрат.

Как выбрать между CoreML и TFLite для on-device инференса?

CoreML — нативный фреймворк Apple для запуска ML-моделей на устройстве. Поддерживает Neural Engine (начиная с A11 Bionic), GPU и CPU как fallback. Модели конвертируются в формат .mlmodel через coremltools из PyTorch, ONNX или TensorFlow. Конвертация — не всегда тривиальна: кастомные слои требуют реализации MLCustomLayer, а квантизация до INT8 иногда заметно роняет точность на специфических данных. Мы гарантируем, что итоговая модель проходит валидацию на реальных данных до и после конвертации.

TensorFlow Lite — кросс-платформенная альтернатива для Android и Flutter. На Android использует NNAPI (Neural Networks API) для хардварного ускорения — с Android 10 NNAPI стабильнее, до этого лучше явно использовать GPU delegate через GpuDelegate. Типичная ошибка: модель обучена на нормализованных данных в диапазоне [0,1], а в приложении на вход подаётся [0,255] — инференс работает, но с бессмысленными результатами без ошибки. Мы включаем модуль автоматической валидации входных данных в SDK.

Для задач классификации изображений, детекции объектов и сегментации доступны готовые оптимизированные модели. YOLOv8 в CoreML формате запускает детекцию кадра 640×640 за 15–20 мс на iPhone 14 Neural Engine. MobileNetV3 на TFLite с GPU delegate — около 8 мс на Pixel 7 при классификации.

Что делать, если нужна генерация текста на устройстве?

Запуск небольших языковых моделей на устройстве стал реальностью в последние несколько лет. Apple Intelligence использует собственные модели через Private Cloud Compute, но для сторонних разработчиков доступны другие пути.

llama.cpp с Metal backend на iOS — работающий подход для phi-3-mini (3.8B параметров, 4-bit квантизация, ~2.3 ГБ). Инференс: 15–25 токенов/секунду на iPhone 15 Pro. Для интеграции в Swift используем Swift Package llama.swift или обёртку через C-интерфейс llama.h. Бинарник к приложению не прикладываем — модель скачивается при первом запуске и хранится в Application Support. Наши сертифицированные разработчики настраивают инкрементальную загрузку, чтобы не блокировать первый запуск.

На Android аналог — Google AI Edge (бывший MediaPipe LLM Inference API) с поддержкой Gemma-2B. Работает через GPU delegate, на Tensor G3 чипе Pixel 8 Pro — около 20 токенов/секунду.

Ограничения реальны: модели больше 4B параметров на мобильных устройствах по-прежнему медленны. Для сложных задач рассуждения on-device LLM уступает GPT-4o в качестве. Гибридный подход — on-device для коротких задач и приватных данных, облако для сложных запросов — часто оптимален. Оценим ваш кейс и предложим баланс производительности и приватности — пишите.

Интеграция OpenAI API и других облачных моделей

Для сценариев, где cloud inference допустим, интеграция OpenAI, Anthropic или Google Gemini — это HTTP клиент + streaming SSE. В Swift удобно через AsyncThrowingStream для стриминговых ответов. В Kotlin — через Flow.

Критически важно: API-ключи никогда не хранятся в бандле приложения. Даже обфусцированный ключ извлекается из IPA за 10 минут через strings или frida. Правильная архитектура: мобильное приложение → собственный backend → OpenAI API. Backend контролирует rate limiting, логирует запросы, защищает ключ.

Что входит в работу (deliverables)

• Обученная и квантизированная модель под целевое устройство (документация по метрикам)
• SDK для интеграции (Swift/Kotlin/Flutter) с примерами вызова
• Тесты производительности на 3–5 реальных устройствах
• Инструкция по обновлению модели OTA
• Поддержка при прохождении модерации App Store / Google Play (проверка соответствия Guidelines 4.2, 5.1)
• 2 недели технической поддержки после релиза

Типичный пайплайн проекта

1. Анализ задачи — замеряем latency, privacy, size, поддерживаемые устройства.
2. Прототипирование модели — в Python, оценка accuracy на целевых данных.
3. Конвертация и квантизация — под CoreML/TFLite с валидацией.
4. Интеграция в приложение — модель оборачивается в сервисный слой (легко подменять CoreML → TFLite → облако).
5. Тестирование — на реальных девайсах, замер FPS, RAM, батареи.
6. Деплой — через TestFlight / Firebase App Distribution, мониторинг метрик.

Сроки: интеграция готовой CoreML/TFLite модели — 1–2 недели, разработка кастомной модели с мобильной оптимизацией — от 6 недель, on-device LLM чат с персонализацией — 4–8 недель.

Почему мы беремся за сложные кейсы?

10+ лет опыта в мобильной разработке, 50+ внедрённых AI/ML решений, гарантия совместимости с актуальными версиями iOS и Android. Все проекты проходят code review и нагрузочное тестирование. В стоимость уже входит подготовка документации для модерации и обучение вашей команды.

Свяжитесь с нами — мы поможем выбрать архитектуру и внедрить ML в ваше приложение под ключ. Закажите аудит существующего решения — бесплатно оценим потенциал экономии серверных затрат (в некоторых проектах экономия достигает $10k в месяц).