Векторное хранилище Weaviate: интеграция в мобильное AI-приложение

TRUETECH занимается разработкой, поддержкой и обслуживанием мобильных приложений iOS, Android, PWA. Имеем большой опыт и экспертизу для публикации мобильных приложений в популярные маркеты Google Play, App Store, Amazon, AppGallery и другие.

Разработка и поддержка любых видов мобильных приложений:

Информационные и развлекательные мобильные приложения
Новостные приложения, игры, справочники, онлайн-каталоги, погодные, фитнес и здоровье, туристические, образовательные, социальные сети и мессенджеры, квиз, блоги и подкасты, форумы, агрегаторы
Мобильные приложения электронной коммерции
Интернет-магазины, B2B-приложения, маркетплейсы, онлайн-обменники, кэшбэк-сервисы, биржи, дропшиппинг-платформы, программы лояльности, доставка еды и товаров, платежные системы
Мобильные приложения для управления бизнес-процессами
CRM-системы, ERP-системы, управление проектами, инструменты для команды продаж, учет финансов, управление производством, логистика и доставка, управление персоналом, системы мониторинга данных
Мобильные приложения электронных услуг
Доски объявлений, онлайн-школы, онлайн-кинотеатры, платформы предоставления электронных услуг, платформы кешбека, видеохостинги, тематические порталы, платформы онлайн-бронирования и записи, платформы онлайн-торговли

Это лишь некоторые из типы мобильных приложений, с которыми мы работаем, и каждый из них может иметь свои специфические особенности и функциональность, а также быть адаптированным под конкретные потребности и цели клиента.

Услуги, которые мы предлагаем
Показано 1 из 1Все 1734 услуг
Векторное хранилище Weaviate: интеграция в мобильное AI-приложение
Средний
~3-5 дней
Часто задаваемые вопросы

Наши компетенции:

Этапы разработки

Последние работы

  • image_mobile-applications_feedme_467_0.webp
    Разработка мобильного приложения для компании FEEDME
    858
  • image_mobile-applications_xoomer_471_0.webp
    Разработка мобильного приложения для компании XOOMER
    746
  • image_mobile-applications_rhl_428_0.webp
    Разработка мобильного приложения для компании RHL
    1162
  • image_mobile-applications_zippy_411_0.webp
    Разработка мобильного приложения для компании ZIPPY
    1034
  • image_mobile-applications_affhome_429_0.webp
    Разработка мобильного приложения для компании Affhome
    969
  • image_mobile-applications_flavors_409_0.webp
    Разработка мобильного приложения для компании FLAVORS
    563

Интеграция Weaviate для векторного хранилища AI в мобильном приложении

Мы постоянно сталкиваемся с ситуацией: данные пользователей — приватные документы, сообщения, медиа — нужно искать не по ключевым словам, а по смыслу. Векторные базы данных решают эту задачу, но выбор конкретного решения влияет на архитектуру, стоимость и масштабируемость. Weaviate — open-source векторная БД с GraphQL и REST API, встроенными модулями для автоматического создания эмбеддингов и семантического поиска. От Pinecone отличается возможностью self-hosting, более богатой схемой объектов и встроенным hybrid search из коробки.

Что делает Weaviate удобным для мобильных AI-приложений

Мобильные приложения работают с разными типами контента: текст, изображения, аудио. Weaviate хранит объекты с гибкой схемой — вы определяете поля, их типы и связи. Это ближе к документной БД, чем к чистому векторному хранилищу. Каждый объект имеет идентификатор, свойства и вектор.

# Создание класса в Weaviate
client.schema.create_class({
    "class": "Document",
    "vectorizer": "text2vec-openai",  # автоэмбеддинги при записи
    "moduleConfig": {
        "text2vec-openai": {
            "model": "text-embedding-3-small",
            "dimensions": 1536
        }
    },
    "properties": [
        {"name": "content", "dataType": ["text"]},
        {"name": "source", "dataType": ["text"]},
        {"name": "userId", "dataType": ["text"]},
        {"name": "language", "dataType": ["text"]}
    ]
})

Модуль text2vec-openai — Weaviate сам создаёт эмбеддинг при добавлении объекта. Не нужно отдельно вызывать Embeddings API перед upsert. Удобно, но нужно передавать ключ OpenAI в конфиг Weaviate. Если данные нельзя отправлять во внешние API — используйте text2vec-transformers с локальной моделью или генерируйте эмбеддинги на своей стороне.

Hybrid Search: BM25 + векторный поиск в одном запросе

Главное преимущество Weaviate — hybrid search нативно. Объединяет keyword-поиск (BM25) и семантический поиск через параметр alpha:

{
  Get {
    Document(
      hybrid: {
        query: "сброс пароля",
        alpha: 0.75  # 0 = только BM25, 1 = только векторный
      }
      where: {
        path: ["userId"]
        operator: Equal
        valueText: "user_42"
      }
      limit: 5
    ) {
      content
      source
      _additional { score explainScore }
    }
  }
}

alpha: 0.75 — 75% веса у векторного поиска, 25% у BM25. Оптимальное значение подбирается под конкретный корпус, но 0.7–0.8 работает хорошо для большинства случаев. Это то, что в pgvector приходится реализовывать самому через объединение двух запросов. В Weaviate — один вызов.

Self-hosted Weaviate для приватных данных

Если данные нельзя отправлять в облако — Weaviate разворачивается в Docker с self-hosted:

# docker-compose.yml
services:
  weaviate:
    image: semitechnologies/weaviate:1.24.0
    ports:
      - "8080:8080"
    environment:
      QUERY_DEFAULTS_LIMIT: 25
      AUTHENTICATION_ANONYMOUS_ACCESS_ENABLED: 'true'
      PERSISTENCE_DATA_PATH: '/var/lib/weaviate'
      DEFAULT_VECTORIZER_MODULE: 'none'  # эмбеддинги создаём сами
      CLUSTER_HOSTNAME: 'node1'
    volumes:
      - weaviate_data:/var/lib/weaviate

При self-hosting эмбеддинги генерируем на нашем бэкенде (локальная модель или API) и передаём вектор явно при добавлении объекта.

Мобильный клиент и мультитенантность

Weaviate 1.20+ поддерживает нативную мультитенантность через tenants. Это производительнее, чем фильтрация по userId:

# Создаём тенанта (один раз при регистрации пользователя)
client.schema.add_class_tenants("Document", [{"name": f"user_{user_id}"}])

# Добавляем объект в тенант пользователя
client.data_object.create(
    data_object={"content": chunk, "source": filename},
    class_name="Document",
    tenant=f"user_{user_id}",
    vector=embedding  # если vectorizer = none
)

# Поиск в тенанте пользователя
result = client.query.get("Document", ["content", "source"]) \
    .with_hybrid(query=user_query, alpha=0.75) \
    .with_tenant(f"user_{user_id}") \
    .with_limit(5) \
    .do()

При включённой мультитенантности каждый тенант хранится в отдельном шарде — поиск не замедляется при росте числа пользователей.

Почему стоит выбрать Weaviate вместо Pinecone?

Мы сравнили оба решения на реальных проектах. Weaviate даёт полный контроль над данными (open-source, можно хостить где угодно) и не ограничивает в размере схемы объектов. Pinecone быстрее в старте — не нужно управлять инфраструктурой, но он дороже при масштабировании (плата за пропускную способность и объём). В таблице — краткое сравнение:

Критерий Weaviate Pinecone
Лицензия Open-source (BSD-3) Проприетарная
Self-hosting Да Нет
Схема объектов Гибкая, с типами полей Плоская (только id, вектор, метаданные)
Hybrid search Встроенный (BM25 + вектор) Только векторный
Мультитенантность Нативная (шарды) Через фильтрацию
Стоимость для 1M векторов Бесплатно (self-hosted) Плата за объём

Для мобильного AI-приложения с высокими требованиями к приватности Weaviate — оптимальный выбор. Закажите оценку вашего проекта — мы поможем подобрать архитектуру.

Типичные ошибки при интеграции Weaviate

Ошибка Решение
Игнорирование индексов на свойствах Добавлять индексы на частофильтруемые поля (userId, source)
Неверный подбор alpha Начинать с 0.75 и тестировать на вашем корпусе; если запросы короткие — увеличивать BM25 (alpha < 0.5)
Отсутствие кэширования эмбеддингов Кэшировать векторы на бэкенде, чтобы не вызывать модель повторно для одинаковых текстов

Как интегрировать Weaviate в мобильное приложение?

Этапы работы:

  1. Анализ требований — определяем типы данных, объём, частоту запросов, требования к приватности.
  2. Проектирование схемы — классы, свойства, индексы, настройка модулей векторизации.
  3. Развёртывание — выбор облачной инфраструктуры (AWS, GCP, Azure) или self-hosted на вашем сервере.
  4. Ingestion pipeline — загружаем существующие документы, генерируем эмбеддинги, настраиваем batch import для скорости.
  5. Бэкенд API — GraphQL-эндпоинты для мобильного клиента с авторизацией и мультитенантностью.
  6. Мобильный UI — интерфейс поиска с превью результатов, фильтрацией и сортировкой.
  7. Нагрузочное тестирование — проверка производительности при 1000+ запросов в секунду.
  8. Мониторинг и поддержка — логирование, метрики, SLA.

Что входит в работу?

  • Проектирование схемы классов Weaviate под ваш датасет.
  • Деплой Weaviate (cloud или self-hosted) с конфигурацией безопасности.
  • Настройка модулей векторизации (text2vec, transformers, custom).
  • Реализация hybrid search с подбором alpha.
  • Внедрение мультитенантности для многопользовательских приложений.
  • Бэкенд API (Node.js/Python) с авторизацией и кэшированием.
  • Интеграция с мобильным приложением (iOS/Android/Flutter).
  • Документация по развёртыванию и эксплуатации.

Ориентировочные сроки и стоимость

Интеграция на существующий бэкенд занимает от 2 до 3 недель. Проект с нуля (self-hosted, мобильное приложение, UI) — от 4 до 6 недель. Стоимость рассчитывается индивидуально после аудита вашего проекта. Мы выполнили более 30 проектов с векторными БД, гарантируем стабильную работу и полную документацию.

Официальная документация Weaviate: Weaviate vector database

Получите консультацию — наши инженеры свяжутся с вами в течение дня и предложат оптимальное решение.

AI и ML в мобильных приложениях: CoreML, TFLite и on-device модели

Мы различаем два принципиально разных подхода: приложение с on-device AI и приложение, которое просто вызывает облачное API. Первое работает без интернета, не отправляет данные пользователя на сторонние серверы и отвечает за 50 миллисекунд. Второе зависит от задержки сети и тарифного плана. Выбор архитектуры — ключевой этап, который напрямую влияет на стоимость, приватность и пользовательский опыт. Наш опыт показывает: в 70% проектов on-device инференс оказывается дешевле в долгосрочной перспективе за счёт исключения серверных затрат.

Как выбрать между CoreML и TFLite для on-device инференса?

CoreML — нативный фреймворк Apple для запуска ML-моделей на устройстве. Поддерживает Neural Engine (начиная с A11 Bionic), GPU и CPU как fallback. Модели конвертируются в формат .mlmodel через coremltools из PyTorch, ONNX или TensorFlow. Конвертация — не всегда тривиальна: кастомные слои требуют реализации MLCustomLayer, а квантизация до INT8 иногда заметно роняет точность на специфических данных. Мы гарантируем, что итоговая модель проходит валидацию на реальных данных до и после конвертации.

TensorFlow Lite — кросс-платформенная альтернатива для Android и Flutter. На Android использует NNAPI (Neural Networks API) для хардварного ускорения — с Android 10 NNAPI стабильнее, до этого лучше явно использовать GPU delegate через GpuDelegate. Типичная ошибка: модель обучена на нормализованных данных в диапазоне [0,1], а в приложении на вход подаётся [0,255] — инференс работает, но с бессмысленными результатами без ошибки. Мы включаем модуль автоматической валидации входных данных в SDK.

Для задач классификации изображений, детекции объектов и сегментации доступны готовые оптимизированные модели. YOLOv8 в CoreML формате запускает детекцию кадра 640×640 за 15–20 мс на iPhone 14 Neural Engine. MobileNetV3 на TFLite с GPU delegate — около 8 мс на Pixel 7 при классификации.

Параметр CoreML TFLite
Платформы iOS, macOS, watchOS Android, iOS, Linux, embedded
Хардварное ускорение Neural Engine, GPU, CPU NNAPI, GPU (OpenCL/OpenGL), CPU
Поддержка квантизации FP16, INT8 (с coremltools) FP16, INT8, dynamic range
Кастомные операции Через MLCustomLayer (Swift) Через делегаты (Java/Kotlin)
Размер бандла модели ~3–5 МБ (MobileNetV2 quantized) ~2–4 МБ

Что делать, если нужна генерация текста на устройстве?

Запуск небольших языковых моделей на устройстве стал реальностью в последние несколько лет. Apple Intelligence использует собственные модели через Private Cloud Compute, но для сторонних разработчиков доступны другие пути.

llama.cpp с Metal backend на iOS — работающий подход для phi-3-mini (3.8B параметров, 4-bit квантизация, ~2.3 ГБ). Инференс: 15–25 токенов/секунду на iPhone 15 Pro. Для интеграции в Swift используем Swift Package llama.swift или обёртку через C-интерфейс llama.h. Бинарник к приложению не прикладываем — модель скачивается при первом запуске и хранится в Application Support. Наши сертифицированные разработчики настраивают инкрементальную загрузку, чтобы не блокировать первый запуск.

На Android аналог — Google AI Edge (бывший MediaPipe LLM Inference API) с поддержкой Gemma-2B. Работает через GPU delegate, на Tensor G3 чипе Pixel 8 Pro — около 20 токенов/секунду.

Ограничения реальны: модели больше 4B параметров на мобильных устройствах по-прежнему медленны. Для сложных задач рассуждения on-device LLM уступает GPT-4o в качестве. Гибридный подход — on-device для коротких задач и приватных данных, облако для сложных запросов — часто оптимален. Оценим ваш кейс и предложим баланс производительности и приватности — пишите.

Интеграция OpenAI API и других облачных моделей

Для сценариев, где cloud inference допустим, интеграция OpenAI, Anthropic или Google Gemini — это HTTP клиент + streaming SSE. В Swift удобно через AsyncThrowingStream для стриминговых ответов. В Kotlin — через Flow.

Критически важно: API-ключи никогда не хранятся в бандле приложения. Даже обфусцированный ключ извлекается из IPA за 10 минут через strings или frida. Правильная архитектура: мобильное приложение → собственный backend → OpenAI API. Backend контролирует rate limiting, логирует запросы, защищает ключ.

Что входит в работу (deliverables)

  • Обученная и квантизированная модель под целевое устройство (документация по метрикам)
  • SDK для интеграции (Swift/Kotlin/Flutter) с примерами вызова
  • Тесты производительности на 3–5 реальных устройствах
  • Инструкция по обновлению модели OTA
  • Поддержка при прохождении модерации App Store / Google Play (проверка соответствия Guidelines 4.2, 5.1)
  • 2 недели технической поддержки после релиза

Типичный пайплайн проекта

  1. Анализ задачи — замеряем latency, privacy, size, поддерживаемые устройства.
  2. Прототипирование модели — в Python, оценка accuracy на целевых данных.
  3. Конвертация и квантизация — под CoreML/TFLite с валидацией.
  4. Интеграция в приложение — модель оборачивается в сервисный слой (легко подменять CoreML → TFLite → облако).
  5. Тестирование — на реальных девайсах, замер FPS, RAM, батареи.
  6. Деплой — через TestFlight / Firebase App Distribution, мониторинг метрик.

Сроки: интеграция готовой CoreML/TFLite модели — 1–2 недели, разработка кастомной модели с мобильной оптимизацией — от 6 недель, on-device LLM чат с персонализацией — 4–8 недель.

Почему мы беремся за сложные кейсы?

10+ лет опыта в мобильной разработке, 50+ внедрённых AI/ML решений, гарантия совместимости с актуальными версиями iOS и Android. Все проекты проходят code review и нагрузочное тестирование. В стоимость уже входит подготовка документации для модерации и обучение вашей команды.

Свяжитесь с нами — мы поможем выбрать архитектуру и внедрить ML в ваше приложение под ключ. Закажите аудит существующего решения — бесплатно оценим потенциал экономии серверных затрат (в некоторых проектах экономия достигает $10k в месяц).