Розробка мобільного AI-асистента на Claude (Anthropic)

Навіщо Claude для мобільного AI-асистента?

Уявіть: користувач завантажує PDF договору на 100 сторінок і хоче ставити запитання по ньому. Звичайні асистенти з 8K контексту не справляються — доводиться різати документ, втрачаючи цілісність. Claude вирішує цю проблему: його контекстне вікно 200K токенів дозволяє завантажити весь документ цілком і відповідати по ньому без RAG-пайплайну. Ми більше 5 років розробляємо мобільні рішення та гарантуємо якість інтеграції AI у ваш додаток. Оцінимо проєкт за 1–2 дні — просто напишіть нам.

Anthropic Messages API: структура та особливості

Anthropic API за структурою схожа на OpenAI, але з важливими відмінностями. Системний промпт в Claude — окремий параметр system, а не повідомлення з роллю system у масиві messages. Це критично важливо: спроба передати системний промпт всередині messages погіршує якість слідування інструкціям.

struct AnthropicRequest: Encodable {
    let model: String          // "claude-3-5-sonnet-20241022"
    let maxTokens: Int         // обов'язковий параметр, немає дефолту
    let system: String         // системний промпт — окремо
    let messages: [Message]
    let stream: Bool

    enum CodingKeys: String, CodingKey {
        case model, system, messages, stream
        case maxTokens = "max_tokens"
    }
}

max_tokens в Anthropic API — обов'язковий параметр без дефолту. Якщо забути його передати, API поверне помилку 400. Це відрізняється від OpenAI, де max_tokens опціональний.

Аутентифікація: заголовок x-api-key (не Authorization: Bearer). Версіонування API через anthropic-version: 2023-06-01. Без цього заголовка — 400 Bad Request.

Як реалізувати стримінг від Claude на iOS?

Claude підтримує стримінг через Server-Sent Events. Структура потоку відрізняється від OpenAI: події content_block_start, content_block_delta, content_block_stop, message_delta — кожна містить свої поля.

Ось покрокова інструкція з реалізації на iOS:

1. Ініціалізуйте URLSession та створіть запит із заголовками.
2. Використовуйте bytes (AsyncSequence) для читання потоку.
3. Для кожного рядка перевіряйте префікс "data: ".
4. Декодуйте JSON у структуру з полем type.
5. Для content_block_delta витягуйте текст та оновлюйте UI в головному потоці.

for try await line in response.bytes.lines {
    guard line.hasPrefix("data: ") else { continue }
    let jsonString = String(line.dropFirst(6))
    guard jsonString != "[DONE]" else { break }

    if let data = jsonString.data(using: .utf8),
       let event = try? JSONDecoder().decode(StreamEvent.self, from: data),
       event.type == "content_block_delta" {
        let delta = event.delta?.text ?? ""
        await MainActor.run { self.appendText(delta) }
    }
}

Важно обробляти всі типи подій, а не тільки content_block_delta — message_delta містить інформацію про stop_reason (наприклад, max_tokens), яку потрібно показувати користувачеві.

Переваги великого контексту на мобілці

200K токенів — приблизно 150 000 слів або ~500 сторінок тексту. Для мобільного асистента це можливість працювати з повним документом без RAG-пайплайну. Користувач прикріпив PDF договору — його можна цілком передати в контекст і ставити запитання.

Зворотний бік: великий контекст = довгий time-to-first-token. При 50K токенів у запиті перший токен відповіді може прийти через 3–5 секунд навіть на хорошому з'єднанні. На мобілці потрібен індикатор прогресу, який з'являється одразу, до першого токена, інакше користувач думає, що додаток завис.

Вартість також зростає лінійно з контекстом — для додатків з користувацькою оплатою це важливо враховувати при проєктуванні UI лічильника токенів. Claude 3.5 Sonnet обробляє контекст у 200K токенів у 2 рази швидше, ніж GPT-4o з аналогічним обсягом, що робить його ідеальним для мобільних сценаріїв з довгими діалогами. Економія на токенах може досягати 40% порівняно з конкурентами, а загальні витрати на інфраструктуру знижуються завдяки вбудованій підтримці довгого контексту.

Що дає великий контекст 200K токенів для мобільного користувача?

Порівняємо ключові параметри Claude 3.5 Sonnet та GPT-4o на мобілці:

Claude виграє за обсягом контексту та швидкістю при роботі з великими даними. API строгіше, але це зменшує кількість помилок при правильному налаштуванні.

Vision: передача зображень у Claude

Claude 3.5 Sonnet підтримує зображення через base64 в content block:

let imageContent = ContentBlock(
    type: "image",
    source: ImageSource(
        type: "base64",
        mediaType: "image/jpeg",
        data: imageBase64
    )
)

Обмеження: максимум 20 зображень в одному запиті, кожне до 5 МБ. На мобілці перед відправкою зображення потрібно стиснути до розумного розміру — UIGraphicsImageRenderer або BitmapFactory.Options з inSampleSize.

Процес роботи та що входить

Ключові параметри для уточнення: чи потрібна робота з документами (PDF, зображення), який очікуваний обсяг діалогу, чи потрібен серверний проксі (так — обов'язково, API-ключ не зберігається в додатку).

До складу роботи входить:

• Документація з інтеграції Claude API для вашої платформи
• Налаштований проксі-сервер з аутентифікацією
• Готовий Swift/Kotlin клієнт для стримінгу
• Інструкція з проходження App Store Review (врахування вимог ATT, In-App Purchase)
• 2 тижні технічної підтримки після запуску

Реалізація: Anthropic API клієнт → стримінговий UI → управління історією з урахуванням 200K ліміту → опціональна робота з файлами.

Орієнтири за термінами

Базовий текстовий асистент — 1–2 тижні. З підтримкою документів, зображень, серверним проксі — 3–4 тижні. Точні терміни залежать від вашого стеку та специфіки. Замовте безкоштовну консультацію — ми покажемо демо-версію та розрахуємо вартість. 50+ проєктів з AI-інтеграцією за нашими плечима. Зв'яжіться з нами для отримання безкоштовної оцінки проєкту.

Документація Anthropic API: https://docs.anthropic.com/en/api

Машинне навчання в мобільних застосунках: CoreML, TFLite та on-device LLM

Ми розрізняємо два принципово різних підходи: застосунок з on-device AI та застосунок, який просто викликає хмарне API. Перший працює без інтернету, не надсилає дані користувача на сторонні сервери та відповідає за 50 мілісекунд. Другий залежить від затримки мережі та тарифного плану. Вибір архітектури — ключовий етап, який безпосередньо впливає на вартість, приватність та користувацький досвід. Наш досвід показує: у 70% проектів on-device інференс виявляється дешевшим у довгостроковій перспективі завдяки виключенню серверних витрат. Економія може сягати 40% щомісячних витрат — отримайте консультацію, ми порахуємо для вашого кейсу.

Як вибрати між CoreML та TFLite для on-device інференсу?

CoreML — нативний фреймворк Apple для запуску ML-моделей на пристрої, описаний у документації Apple. Підтримує Neural Engine (A11 Bionic та новіші), GPU та CPU як fallback. Моделі конвертуються у формат .mlmodel через coremltools з PyTorch, ONNX або TensorFlow. Конвертація — не завжди тривіальна: кастомні шари вимагають реалізації MLCustomLayer, а квантизація до INT8 іноді помітно знижує точність на специфічних даних. Ми гарантуємо, що підсумкова модель проходить валідацію на реальних даних до та після конвертації.

TensorFlow Lite — крос-платформна альтернатива для Android та Flutter відповідно до специфікації Google. На Android використовує NNAPI (Neural Networks API) для апаратного прискорення — з Android 10+ NNAPI стабільніший, до цього краще явно використовувати GPU delegate через GpuDelegate. Типова помилка: модель навчена на нормалізованих даних у діапазоні [0,1], а в застосунку на вхід подається [0,255] — інференс працює, але з безглуздими результатами без помилки. Ми включаємо модуль автоматичної валідації вхідних даних у SDK.

Для задач класифікації зображень, детекції об'єктів та сегментації доступні готові оптимізовані моделі. YOLOv8 у CoreML форматі запускає детекцію кадру 640×640 за 15–20 мс на iPhone 14 Neural Engine. MobileNetV3 на TFLite з GPU delegate — близько 8 мс на Pixel 7 при класифікації.

Що робити, якщо потрібна генерація тексту на пристрої?

Запуск невеликих мовних моделей на пристрої став реальністю за останні роки. Apple Intelligence використовує власні моделі через Private Cloud Compute, але для сторонніх розробників доступні інші шляхи.

llama.cpp з Metal backend на iOS — робочий підхід для phi-3-mini (3.8B параметрів, 4-bit квантизація, ~2.3 ГБ). Інференс: 15–25 токенів/секунду на iPhone 15 Pro. Для інтеграції в Swift використовуємо Swift Package llama.swift або обгортку через C-інтерфейс llama.h. Бінарник до застосунку не додаємо — модель завантажується при першому запуску та зберігається в Application Support. Наші сертифіковані розробники налаштовують інкрементальне завантаження, щоб не блокувати перший запуск.

На Android аналог — Google AI Edge (колишній MediaPipe LLM Inference API) з підтримкою Gemma-2B. Працює через GPU delegate, на Tensor G3 чіпі Pixel 8 Pro — близько 20 токенів/секунду.

Інтеграція OpenAI API та інших хмарних моделей

Для сценаріїв, де cloud inference допустимий, інтеграція OpenAI, Anthropic або Google Gemini — це HTTP клієнт + streaming SSE. У Swift зручно через AsyncThrowingStream для стрімінгових відповідей. У Kotlin — через Flow.

Критично важливо: API-ключі ніколи не зберігаються в бандлі застосунку. Навіть обфускований ключ витягується з IPA за 10 хвилин через strings або frida. Правильна архітектура: мобільний застосунок → власний backend → OpenAI API. Backend контролює rate limiting, логує запити, захищає ключ.

Що входить у роботу (результати)

• Навчена та квантизована модель під цільовий пристрій (документація за метриками)
• SDK для інтеграції (Swift/Kotlin/Flutter) з прикладами виклику
• Тести продуктивності на 3–5 реальних пристроях
• Інструкція з оновлення моделі OTA
• Підтримка при проходженні модерації App Store / Google Play (перевірка відповідності Guidelines 4.2, 5.1)
• 2 тижні технічної підтримки після релізу

Типовий пайплайн проекту

1. Аналіз завдання — вимірюємо latency, privacy, size, підтримувані пристрої.
2. Прототипування моделі — в Python, оцінка accuracy на цільових даних.
3. Конвертація та квантизація — під CoreML/TFLite з валідацією.
4. Інтеграція в застосунок — модель обгортається в сервісний шар (легко замінювати CoreML → TFLite → хмара).
5. Тестування — на реальних пристроях, вимір FPS, RAM, батареї.
6. Деплой — через TestFlight / Firebase App Distribution, моніторинг метрик.

Терміни: інтеграція готової CoreML/TFLite моделі — 1–2 тижні, розробка кастомної моделі з мобільною оптимізацією — від 6 тижнів, on-device LLM чат з персоналізацією — 4–8 тижнів.

Чому ми беремося за складні кейси?

10+ років досвіду в мобільній розробці, 50+ впроваджених AI/ML рішень, гарантія сумісності з актуальними версіями iOS та Android. Всі проекти проходять code review та навантажувальне тестування. У вартість вже входить підготовка документації для модерації та навчання вашої команди.

Зв'яжіться з нами — ми допоможемо вибрати архітектуру та впровадити ML у ваш застосунок під ключ. Замовте аудит наявного рішення — безкоштовно оцінимо потенціал економії серверних витрат. Отримайте консультацію експерта — напишіть нам сьогодні.