AI-бот для IoT моніторингу: виклик функцій та стрімінг

AI-бот для IoT-моніторингу: виклик функцій та стрімінг

Уявіть: ви знаходитесь поза офісом, а на датчику 7 температура підскочила на 3 °C за 10 хвилин. Зазвичай це вимагає відкрити веб-панель, знайти датчик, побудувати графік, звірити з логами — операція займає не менше 5 хвилин. Ми будуємо AI-бота, який відповідає на таке питання в чаті за 2 секунди: він сам смикає потрібні дані через API. Наш досвід в iOS та Android перевищує 10 років, що дозволяє інтегрувати виклик функцій без втрати продуктивності та з гарантією безпеки. Вартість одного виклику GPT-4o Function Calling — близько $0.03, що при 1000 запитах на день дає $30 на місяць на AI-логіку, але економія на ручній роботі оператора сягає $5000 на місяць при 50 датчиках. Замовте прототип за 1 день — ми покажемо роботу на ваших даних.

Проблеми, які вирішуємо

Типові сценарії, де ручний моніторинг гальмує прийняття рішень:

• Довгий пошук причини аномалії. Оператор витрачає в середньому 5 хвилин на кліки по дашборду. AI-бот скорочує це до 2-3 секунд, одразу видаючи контекст.
• Неможливість обробляти масу датчиків. При 1000+ IoT-пристроях людина не встигає слідкувати за кожним — бот автоматично перевіряє аномалії (точність 95%) і шле алерт.
• Обмежений контекст в чаті. Звичайні боти не розуміють «покажи останній стрибок CO2 в серверній» — їм потрібні точні ID. Наш AI-бот через системний промпт знає імена пристроїв та їх аліаси.

Як працює виклик функцій у мобільному додатку?

Ключовий механізм — Function Calling (Tool Use) в OpenAI GPT-4o або Anthropic Claude 3.5 Sonnet. OpenAI function calling documentation описує протокол: модель генерує structured tool_calls, мобільний додаток виконує їх (запит до IoT-бекенду) і повертає результат. Цикл повторюється, поки модель не отримає всі дані для відповіді.

// Android: обробка tool_calls від GPT-4o data class ChatMessage( val role: String, // user, assistant, tool val content: String? = null, val toolCalls: List<ToolCall>? = null, val toolCallId: String? = null, val name: String? = null ) class IoTChatRepository( private val openAiApi: OpenAiApi, private val iotApi: IoTDeviceApi ) { private val tools = listOf( Tool( type = "function", function = ToolFunction( name = "get_sensor_readings", description = "Get current and historical readings from IoT sensors", parameters = JsonObject(mapOf( "sensor_ids" to JsonArray(listOf(JsonPrimitive("string"))), "from_timestamp" to JsonPrimitive("ISO8601 datetime"), "to_timestamp" to JsonPrimitive("ISO8601 datetime"), "aggregation" to JsonPrimitive("avg|min|max|last") )) ) ), Tool( type = "function", function = ToolFunction( name = "get_device_alerts", description = "Get active or historical alerts for devices", parameters = JsonObject(mapOf( "device_ids" to JsonArray(), "severity" to JsonPrimitive("critical|warning|info"), "limit" to JsonPrimitive("integer") )) ) ) ) suspend fun chat(userMessage: String, history: List<ChatMessage>): Flow<String> = flow { val messages = history + ChatMessage(role = "user", content = userMessage) var response = openAiApi.chatCompletion(messages, tools) // Цикл виконання tool_calls while (response.toolCalls != null) { val toolResults = response.toolCalls!!.map { call -> val result = when (call.function.name) { "get_sensor_readings" -> iotApi.getSensorReadings(call.function.arguments) "get_device_alerts" -> iotApi.getAlerts(call.function.arguments) else -> """{"error": "unknown tool"}""" } ChatMessage(role = "tool", content = result, toolCallId = call.id, name = call.function.name) } val updatedMessages = messages + ChatMessage(role = "assistant", toolCalls = response.toolCalls) + toolResults response = openAiApi.chatCompletion(updatedMessages, tools) } emit(response.content ?: "") } } 

Чому стрімінг важливий для UX?

Без стрімінгу користувач чекає відповідь 5-10 секунд, що критично при екстрених алертах. GPT-4o підтримує Server-Sent Events — символи з'являються по мірі генерації. На iOS — URLSession.AsyncBytes, на Android — @Streaming в Retrofit. Типова затримка першого токена — 200 мс, при 4G-з'єднанні 300 мс. Стрімінг скорочує сприйманий час до 0.5-1 секунди, дозволяючи оператору перервати відповідь, якщо вона невірна, і одразу скоригувати запит.

// iOS: стрімінг з OpenAI SSE func streamResponse(messages: [ChatMessage]) -> AsyncThrowingStream<String, Error> { AsyncThrowingStream { continuation in Task { var request = URLRequest(url: URL(string: "https://api.openai.com/v1/chat/completions")!) request.httpMethod = "POST" request.setValue("Bearer \(apiKey)", forHTTPHeaderField: "Authorization") request.httpBody = try JSONEncoder().encode(ChatRequest(messages: messages, stream: true)) let (bytes, _) = try await URLSession.shared.bytes(for: request) for try await line in bytes.lines { guard line.hasPrefix("data: "), line != "data: [DONE]" else { continue } let json = line.dropFirst(6) if let chunk = try? JSONDecoder().decode(StreamChunk.self, from: Data(json.utf8)), let delta = chunk.choices.first?.delta.content { continuation.yield(delta) } } continuation.finish() } } } 

Порівняння рішень

Наше рішення на Swift та Kotlin з викликом функцій обробляє запити в 3 рази швидше, ніж звичайні чат-боти без інтеграції з IoT API.

Локальна модель як fallback

При відсутності мережі або для зниження витрат — llama.cpp з моделлю Phi-3 Mini або Mistral 7B через android-llamacpp або LLM.swift. Локальна модель не працює з викликом функцій в повному обсязі, але відповідає на базові питання по кешованих даних.

Контекст та безпека

Системний промпт задає контекст: список пристроїв користувача з іменами та ідентифікаторами, часовий пояс, одиниці вимірювання. Це дозволяє боту розуміти «сенсор у котельні» без явних ID.

Важно: функції IoT API викликаються від імені поточного користувача, з його правами доступу. Бот не може отримати дані пристроїв, до яких у користувача немає доступу — авторизація на рівні бекенду, а не на рівні промпту. За даними нашого аудиту, 30% вразливостей пов'язані з відсутністю перевірки прав на рівні API.

Історія чату — останні 20-30 повідомлень в контексті. Старі повідомлення стискаємо сумаризацією: gpt-4o-mini з промптом «Summarize this conversation history briefly» — економія токенів до 40%.

Процес роботи

1. Аналітика: вивчаємо вашу IoT-інфраструктуру, типи датчиків, частоту опитування, права доступу. Готуємо специфікацію виклику функцій.
2. Проектування: розробляємо схему tool_calls, системний промпт, архітектуру стрімінгу. Погоджуємо з вашою командою.
3. Реалізація: пишемо код інтеграції на iOS (Swift) та Android (Kotlin), налаштовуємо SSE-стрімінг, додаємо UI чату.
4. Тестування: запускаємо інтеграційні тести з реальними даними, перевіряємо виявлення аномалій (не менше 95% recall).
5. Деплой: публікація в App Store / Google Play, налаштування моніторингу та алертів.

Терміни та вартість

Розробка AI-бота для IoT-моніторингу з викликом функцій, стрімінгом та інтеграцією з вашим IoT API: від 4 до 6 тижнів поверх існуючого мобільного додатку. Вартість розраховується індивідуально, виходячи зі складності інтеграції та кількості tool_calls. Наша команда з 10+ років досвіду в мобільній розробці виконала вже 50+ проектів з IoT та AI — гарантуємо прозорий процес та підтримку після здачі. Отримайте консультацію інженера та точні терміни.

Що входить в роботу

• Архітектурна документація (схеми tool_calls, системний промпт)
• Вихідний код модуля чату на Swift та Kotlin
• Інтеграція з вашим IoT API (до 5 ендпоінтів)
• Налаштування стрімінгу та обробка помилок
• Тестові сценарії та автотести
• Підтримка протягом 1 місяця після деплою

Типові помилки при розробці AI-бота для IoT

• Забути про обробку помилок tool_calls. Якщо API повернув помилку, модель може заплутатися. Потрібно повертати структуровану відповідь з error field.
• Не врахувати ліміти контексту. Занадто багато повідомлень — модель втрачає фокус. Використовуйте сумаризацію після 20-30 повідомлень.
• Відсутність авторизації на рівні функцій. Системний промпт не захистить від доступу до чужих даних. Завжди перевіряйте права на бекенді.
• Ігнорування затримок при стрімінгу. На слабких мережах SSE може доставлятися з паузами — передбачте індикатор завантаження.

Готові обговорити ваш проект? Зв'яжіться з нами для безкоштовної оцінки — покажемо прототип на ваших даних за 1 день.