Интеграция YandexGPT в мобильное приложение

Интеграция YandexGPT в мобильное приложение

При попытке напрямую использовать IAM-токен в мобильном приложении пользователи сталкиваются с ошибкой 401 Unauthorized через 12 часов — срок жизни токена истекает. API-ключ же остаётся в APK после сборки и извлекается обратной разработкой за несколько минут. Решение — прокси-сервис на собственном бэкенде. Рассмотрим архитектуру и ключевые моменты интеграции YandexGPT на iOS и Android.

YandexGPT даёт преимущество там, где важна русскоязычная семантика: поддержка пользователей, автозаполнение форм, генерация контента с учётом локальной лексики. OpenAI-модели сильны для английской речи, но YandexGPT точнее обрабатывает региональные запросы и специфичные термины. Задача интеграции на первый взгляд проста: POST на https://llm.api.cloud.yandex.net/foundationModels/v1/completion, передать IAM-токен и текст. На практике — цепочка нетривиальных решений, которые мы отработали на десятках проектов.

Как настроить IAM-токен для мобильного приложения?

Первая точка отказа — авторизация. IAM-токен живёт 12 часов, API-ключ — постоянный, но менее безопасный. В мобильном приложении хранить сервисный ключ напрямую нельзя: его вытащат из APK за 10 минут через apktool. Правильная схема: мобильный клиент авторизуется в вашем бэкенде, бэкенд держит IAM-токен и проксирует запросы к Yandex Cloud.

// iOS: запрос через собственный прокси struct YGPTRequest: Encodable { let prompt: String let maxTokens: Int let temperature: Double } func sendToYandexGPT(prompt: String) async throws -> String { let url = URL(string: "https://api.yourapp.com/ai/complete")! var request = URLRequest(url: url) request.httpMethod = "POST" request.setValue("Bearer \(authToken)", forHTTPHeaderField: "Authorization") request.httpBody = try JSONEncoder().encode(YGPTRequest( prompt: prompt, maxTokens: 500, temperature: 0.7 )) let (data, _) = try await URLSession.shared.data(for: request) return try JSONDecoder().decode(CompletionResponse.self, from: data).text } 

На Android — аналогично через Retrofit с OkHttp-интерсептором для подстановки токена.

Почему стоит использовать потоковую генерацию?

Режим stream: true в Yandex Foundation Models API возвращает ответ чанками — как в ChatGPT. Для мобильного UX это важно: пользователь видит текст по мере генерации, не ждёт 3–5 секунд. Мы гарантируем, что потоковая передача не увеличивает нагрузку на устройство при правильной реализации.

На iOS обработка Server-Sent Events через URLSessionDataDelegate:

class StreamingDelegate: NSObject, URLSessionDataDelegate { var onChunk: (String) -> Void var buffer = Data() func urlSession(_ session: URLSession, dataTask: URLSessionDataTask, didReceive data: Data) { buffer.append(data) guard let text = String(data: buffer, encoding: .utf8) else { return } let lines = text.components(separatedBy: "\n") for line in lines where line.hasPrefix("data: ") { let json = String(line.dropFirst(6)) if let chunk = parseYGPTChunk(json) { DispatchQueue.main.async { self.onChunk(chunk) } } } } } 

На Android — OkHttp с EventSource (библиотека okhttp-sse) или ручной парсинг BufferedReader по строкам.

Модели и параметры

Yandex предоставляет несколько вариантов: yandexgpt-lite — быстрый и дешёвый, yandexgpt — полная версия, yandexgpt-32k — для длинных контекстов. Для большинства мобильных сценариев (чат-подсказки, автозаполнение) yandexgpt-lite достаточен и заметно быстрее.

Параметр temperature от 0 до 1: 0.2–0.4 — детерминированные ответы (FAQ-бот), 0.7–0.9 — творческие тексты. Рекомендуем системный промпт на русском языке — это повышает релевантность ответов.

Подробнее о моделях — в Yandex Cloud API documentation.

Кеш и ограничения

Yandex Cloud тарифицирует по токенам. На мобильном клиенте необходимо кешировать повторяющиеся запросы — типичный паттерн для FAQ или онбординга. Простой LRU-кеш на 100 записей в памяти сокращает расходы при повторяющихся сессиях. Мы используем такой кеш во всех проектах — экономия до 40% на API-запросах.

Rate limit Yandex Foundation Models — 10 RPS на фолдер по умолчанию. При пиковой нагрузке (много пользователей одновременно) нужна очередь на бэкенде, а не прямые вызовы с каждого устройства. Оценим ваш проект и поможем выбрать архитектуру.

Что входит в работу

• Аудит сценариев: профилирование пользовательских запросов, оценка необходимой глубины контекста.
• Проектирование архитектуры: прокси-сервис, управление IAM-токенами, кеширование.
• Интеграция в мобильное приложение (iOS/Android) с поддержкой потоковой генерации.
• Тестирование качества ответов на реальных данных, подбор системного промпта.
• Документация по API и примеры кода.
• Обучение команды заказчика работе с Yandex Cloud.

Процесс работы

1. Аудит сценариев: где именно нужен LLM — поддержка, генерация текста, классификация запросов.
2. Выбор модели и режима (synchronous / stream).
3. Разработка прокси-сервиса на бэкенде с управлением IAM-токеном.
4. Интеграция в мобильное приложение с UI для потоковой генерации.
5. Тестирование качества ответов на реальных пользовательских запросах, подбор системного промпта.
6. Передача документации и финальное демо.

// Retrofit интерфейс interface YandexGPTProxy { @POST("ai/complete") suspend fun complete(@Body request: CompletionRequest): CompletionResponse } // ViewModel с кешированием class ChatViewModel(private val api: YandexGPTProxy) : ViewModel() { private val cache = LruCache<String, String>(100) fun sendPrompt(prompt: String) = viewModelScope.launch { cache.get(prompt)?.let { /* use cached */ } val result = api.complete(CompletionRequest(prompt)) cache.put(prompt, result.text) } } 

Ориентиры по срокам

Стоимость рассчитывается индивидуально в зависимости от сложности и объёма работ. Получите консультацию: мы оценим ваш проект в течение одного рабочего дня. Свяжитесь с нами для обсуждения деталей.