Розробка AI для вбудованих систем (Embedded AI)
Embedded AI — ML в системах з жорсткими обмеженнями ресурсів, real-time та умовами експлуатації. Промислові контролери, медичні прилади, automotive ECU — апаратура визначає архітектуру.
Рівні вбудованих систем
RTOS-based (FreeRTOS, Zephyr): Cortex-M4/M7, DSP. TFLite Micro, CMSIS-NN (ARM оптимізовані операції). Обмеження: 256 KB – 2 MB RAM, детерміністичне час виконання.
Embedded Linux (Yocto, Buildroot): Cortex-A серія (Raspberry Pi CM4, i.MX 8). Багатші можливості: TFLite, ONNX RT, pytorch-mobile.
FPGA-based: Xilinx/AMD (Versal, Kria), Intel (Agilex). Паралельна обробка, детермінізм, рекон-фігурюємість. Xilinx FINN, Vitis AI для розгортання нейромереж.
Специфіка розробки
Real-time Constraints: Інференс повинен завершитися за фіксований час (deterministic latency). Worst-case execution time (WCET) аналіз. Без динамічної аллокації пам'яті в RTOS — тільки статична.
Power Budget: Постійний інференс на батареї → оптимізація енергії на інференс. Duty cycling: інференс тільки по подіям (interrupt-driven), глибокий сон інакше.
Reliability: Промислові температури (-40°C to +85°C). ECC пам'ять для safety-critical. IEC 61508 / ISO 26262 для функціональної безпеки.
OTA Updates: Безпечне оновлення моделей через захищений bootloader. A/B partitioning для безпечного rollback.
Тривалість: 12–24 тижні
Складність зростає з вимогами надійності та сертифікації.