Реалізація Edge AI / TinyML
TinyML — це ML на мікроконтролерах з RAM у кілобайтах та споживанням у мілівватах. Це не спрощення — це окрема інженерна дисципліна з унікальними обмеженнями та підходами.
Апаратний спектр TinyML
Tier 1 (Мікроконтролери):
- Cortex-M4/M7: STM32H7, nRF52840. RAM 256 KB – 1 MB. Споживання 1–100 мВт
- Xtensa LX7: ESP32-S3 з векторними інструкціями. RAM 512 KB. ~240 МГц
Tier 2 (AI-enabled MCU):
- MAX78000/MAX78002 (Maxim/Analog Devices): вбудований CNN accelerator, 0.5 мВт inference
- STM32N6: вбудований NPU 600 GOPS — прорив для MCU класу
- Arduino Nicla Vision: OV2640 + Cortex-M7 для edge vision
Tier 3 (Edge SBC):
- Raspberry Pi 5 + Hailo-8 (26 TOPS за $20)
- BeagleBone AI-64
Фреймворки та інструменти
TFLite Micro: Google, найбільш зрілий. Портативний C++, ~100 KB footprint, підтримка всіх MCU.
Edge Impulse Studio: хмарна платформа для навчання + розгортання на MCU. Drag-and-drop для прототипування.
ONNX Runtime for MCU: новіший, що зростає екосистема.
ExecuTorch (PyTorch): embedded ML runtime Meta, підтримка ARM Cortex-M.
Типовий робочий процес
Збір даних → Feature Engineering (немає місця на MCU для сирих даних) → Design моделі (NAS для конкретних ресурсних обмежень) → Навчання → Post-Training Quantization (INT8/INT4) → Розгортання → Валідація.