Внедрение AI-автодополнения: от концепции до готового UX
Представьте: пользователь набирает ответ в мессенджере, и приложение предлагает закончить предложение фразой «Спасибо за письмо, я рассмотрю ваше предложение». Если подсказка появляется с задержкой 2 секунды или мигает при каждом символе — UX разрушен. Мы решали эту проблему для финтех-приложения с аудиторией 500k+ пользователей. Результат: 30% пользователей используют автодополнение ежедневно, время набора сообщений сократилось на 40%. Разрыв между концептом и рабочей реализацией — в деталях UX и производительности.
Когда предлагать подсказку
Самая недооценённая часть — триггер. Подсказка не должна появляться при каждом символе. Рабочая эвристика: предлагаем автодополнение, если пользователь набрал от 3 слов в текущей строке и сделал паузу > 600 мс, или нажал пробел в конце предложения-незавершёнки. Ниже — сравнение распространённых стратегий триггера.
| Эвристика | Задержка | Точность | Пример сценария |
|---|---|---|---|
| Каждый символ | 0 мс | Низкая (много ложных срабатываний) | Набор каждого символа |
| Пауза >600 мс + минимум 3 слова | ~600 мс | Высокая | Пользователь задумался |
| Пробел после конца предложения | 0 мс | Средняя (только контекстно) | «Я считаю, что. » (пробел) |
Подробнее о триггерах
На практике комбинируем две эвристики: пауза более 600 мс после ввода не менее 15 символов и нажатие пробела после точки, вопросительного или восклицательного знака. Это покрывает 95% сценариев, где пользователь ожидает подсказку.
// iOS - триггер автодополнения private var autocompleteTask: Task<Void, Never>? func textDidChange(_ textView: UITextView) { autocompleteTask?.cancel() let text = textView.text ?? "" let cursorPosition = textView.selectedRange.location let textBeforeCursor = String(text.prefix(cursorPosition)) // Не предлагаем в середине слова guard textBeforeCursor.last == " " || textBeforeCursor.last == "\n" else { hideAutocomplete() return } // Минимум 15 символов контекста guard textBeforeCursor.trimmingCharacters(in: .whitespaces).count > 15 else { return } autocompleteTask = Task { try? await Task.sleep(nanoseconds: 600_000_000) // 600ms debounce guard !Task.isCancelled else { return } await fetchAutocomplete(context: textBeforeCursor) } } Запрос к модели и парсинг ответа
Для автодополнения используем режим completion, не chat. gpt-4o-mini с max_tokens: 30 и temperature: 0.3 — быстро и предсказуемо.
struct AutocompleteRequest: Encodable { let model = "gpt-4o-mini" let messages: [ChatMessage] let maxTokens = 30 let temperature = 0.3 let stop = ["\n", "."] // останавливаемся на конце предложения } func buildPrompt(context: String) -> [ChatMessage] { [ ChatMessage(role: "system", content: "Complete the text naturally. Continue from where it ends. Output only the continuation, no commentary."), ChatMessage(role: "user", content: context) ] } Стоп-токены \n и . — важны. Без них модель сгенерирует несколько предложений, а нам нужно одно продолжение.
Почему on-device модели не всегда подходят?
Альтернатива для on-device — CreateML Text Classifier не подходит, нужен generative model. На iOS 18+ есть Foundation Models framework с on-device LLM (Apple Intelligence). На Android — Gemini Nano через Google AI Edge SDK. Однако Gemini Nano доступен на Pixel 8+ и некоторых Samsung — не универсальное решение. Согласно Apple Foundation Models, on-device LLM требует A17 Pro или M1+. Для широкой аудитории нужен серверный fallback.
// Android - Gemini Nano on-device (требует поддержки устройства) val generativeModel = GenerativeModel( modelName = "gemini-nano", generationConfig = generationConfig { maxOutputTokens = 30 temperature = 0.3f stopSequences = listOf(".", "\n") } ) val response = generativeModel.generateContent( content { text("Complete naturally: $contextText") } ) val completion = response.text?.trim() ?: "" В таблице ниже сравним подходы:
| Параметр | Серверное API (gpt-4o-mini) | On-device (Apple Intelligence/Gemini Nano) |
|---|---|---|
| Задержка | ~300-800 мс (зависит от сети) | <100 мс (без сети) |
| Качество | Высокое (более мощная модель) | Среднее (ограниченные ресурсы) |
| Доступность | Любое устройство с интернетом | Только флагманские устройства |
| Приватность | Данные уходят на сервер | Полная приватность на устройстве |
| Стоимость | Оплата за токены | Бесплатно для разработчика |
| Поддержка офлайн | Нет | Да |
Гибридный подход — on-device с серверным fallback — даёт лучшее из двух миров.
Как избежать мигания подсказки?
Suggestion мигает. Происходит если новый запрос возвращается быстрее 200 мс и сразу сменяет предыдущий. Решение — показывать только если новый suggestion отличается от предыдущего более чем на 3 символа.
Модель продолжает удалённый текст. Если пользователь удалил часть текста — в контексте для промпта должна быть актуальная версия, не предыдущая. Следите за синхронизацией textBeforeCursor с реальным состоянием TextStorage.
Tab перехватывается системой. На Android Tab на мягкой клавиатуре недоступен. Используем кастомную inline-клавишу или жест свайп-вправо через GestureDetector.
Отображение подсказки
Стандартный паттерн: серый inline-текст после курсора. Пользователь нажимает Tab или свайп вправо — подсказка принимается. Любой другой ввод — скрывается.
// Android Compose - inline suggestion @Composable fun TextFieldWithSuggestion( value: String, suggestion: String, onValueChange: (String) -> Unit, onAcceptSuggestion: () -> Unit ) { val annotatedText = buildAnnotatedString { append(value) withStyle(SpanStyle(color = Color.Gray.copy(alpha = 0.6f))) { append(suggestion) } } BasicTextField( value = TextFieldValue( annotatedString = annotatedText, selection = TextRange(value.length) // курсор — после реального текста ), onValueChange = { tfv -> val newText = tfv.text.take(value.length + suggestion.length) if (newText.startsWith(value + suggestion)) { onAcceptSuggestion() } else { onValueChange(tfv.text.take(value.length)) } }, keyboardActions = KeyboardActions( onDone = { onAcceptSuggestion() } ) ) } На iOS inline suggestion через UITextInput + drawText(in:) или проще через overlay label, позиционированный через caretRect(for:).
Что входит в работу
При заказе реализации AI-автодополнения вы получаете:
- Архитектурную документацию: выбор подхода (сервер / on-device / гибрид), схему интеграции.
- Реализацию триггера и debounce с учётом UX.
- Интеграцию с выбранным API или on-device SDK.
- UI-компоненты inline-подсказки под iOS и Android.
- Тестирование на реальных устройствах: достоверность подсказок, отсутствие мерцания, корректное поведение при удалении.
- Инструкцию по эксплуатации и рекомендации по дообучению модели.
Опираясь на опыт реализации более 10 проектов в области NLP, мы гарантируем стабильную работу подсказок. Свяжитесь с нами, чтобы оценить ваш проект — мы подберём оптимальное решение за 1-2 дня.
Ориентиры по срокам
Базовое автодополнение с серверным API + inline UI — 5–8 дней. On-device через Apple Intelligence / Gemini Nano с серверным fallback — 2–3 недели. Точные сроки зависят от количества платформ, требований к дизайну и необходимости поддержки офлайн-режима. Получите консультацию — мы рассчитаем срок под ваш проект.
Частые проблемы и их решения
Распространённые ошибки при реализации
- Неучёт удаления текста: контекст устаревает → модель дописывает удалённые символы. Решение: синхронизировать
textBeforeCursorпосле каждого изменения. - Отсутствие debounce: каждый символ → запрос к API → 500+ запросов в минуту → перегрузка и счёт за токены. Решение: порог 600 мс и отмена предыдущей задачи.
- Игнорирование стоп-токенов: модель генерирует несколько предложений → подсказка занимает полэкрана. Решение:
stop: ["\n", "."]иmax_tokens: 30.







