Розгортання AI на Google Coral Edge TPU
Google Coral — платформа для високоефективного ML інференсу на edge. Edge TPU — спеціалізований ASIC для INT8 інференсу. 4 TOPS при 0.5–2 Вт спожи вання. Ідеальний для battery-powered або low-power додатків.
Форм-фактори Coral
- USB Accelerator: підключається до Raspberry Pi / x86. Plug-and-play
- PCIe M.2 Accelerator (A+E): для вбудованих систем
- Dev Board: SoC NXP i.MX 8M + Edge TPU. Standalone edge комп'ютер
- Dev Board Mini: компактна версія
Оптимальні застосування
Object detection (MobileNet SSD, EfficientDet-Lite): MobileNet SSD на Coral USB → 400 FPS при 28 мВ. Image classification: MobileNetV2 → 400 FPS. Pose estimation, face detection — Coral Model Zoo має моделі.
Вимоги до моделі
Edge TPU виконує тільки підтримувані операції. Непідтримувані операції → CPU (повільно). Правила для повної підтримки TPU: INT8 квантизація, підтримувані операції (Conv2D, DepthwiseConv, FC, BatchNorm, ReLU, etc.), модель < 8 MB (інакше частковий fallback зменшує прискорення).
Workflow
- Тренування моделі (TensorFlow / TFLite)
- Пост-тренування INT8 квантизація з representative dataset
-
edgetpu_compiler model_quant.tflite - Деплой + PyCoral API
Обмеження
Edge TPU ефективний для стандартних CNN. Для трансформерів, RNN, нестандартних архітектур — краще Jetson або x86 з OpenVINO.







