Edge AI與TinyML

前言

AIoT(Artificial Intelligence + Internet of Thing)已算是成熟產業，在日常生活都能聽到報章媒體、產品介紹提及，此技術通常以單晶片(MCU, Micro Control Unit)為本地端(Local)，或稱邊緣端、終端(Edge)作為主要計算核心，接收各種Sensor感測資料，再控制致動元件如LED、伺服器、繼電器等與環境互動，利用通訊模組達成短中長程資料傳輸(BLE / Wifi / Lora / NB-IoT / 4G / 5G)，再整合雲端之運算、控制、儲存，並與使用者的行動通訊裝置連結，形成完整的AIoT系統[1]。

技術介紹與應用現況

在實際應用面，使用者希望的是低延遲、低功耗、低成本、高資料隱私，因此Edge AI就成為強烈的需求，將AI直接建置在MCU上運作是目前技術開發的熱門領域。

如何在MCU上運作AI，則是仰賴TinyML(微機器學習)的技術，TinyML即Tiny Machine Learning，由於AI是需要大量的運算資源，譬如深度學習需要複雜的模型、巨量的參數，所得到的準確度也會相對提高，在訓練過程就需要有好的硬體資源；而機器學習處理的特徵數量與數學模型通常不會太複雜，計算量也不會太大，較輕量的AI應用可使用MCU來達成，TinyML需求就此產生。

在MCU上運作AI的方式，由於原本單晶片的開發者大多為韌體專長，對於AI演算法不熟悉，AI的開發人才對於單晶片的開發環境則是更不熟悉，所以若有一個平台，能將資料上傳，以簡單的方法分類，並可以選擇適當模型，訓練後有足夠精準度，完成後可將模型部署到MCU上，接續韌體開發與應用，這將是很便利的方式。Edge Impulse [2]與SensiML [3]即為這樣的平台，使用者可選取支援的開發板，將資料上傳至平台，在平台以No code的方式訓練並建立AI模型，再將成果下載回開發環境使用。除了國外知名大廠外，國內奇景科技、中光電智能感測所推出之開發板，也都能夠與上述平台對接，亦為國產IC推廣計畫的合作廠商。

未來展望與挑戰

Edge AI的產品與應用已經離不開生活，不僅僅在高價的工廠產線中，並已深入一般人的生活，如家電產品、娛樂用品、交通工具，越來越多設備內部有小型AI的運算，提升產品的使用體驗。

另一方面在MCU上開發整合AI的人才還是匱乏，有賴於各種TinyML平台，方便使用者分析資料並選擇適合的模型訓練，提供更多的No code或Low code方式開發，並有更好的部署方式，才能降低開發門檻，吸引更多人才往Edge AI方面發展。

圖一、SensiML特徵擷取(資料來源：https://sensiml.com)

參考資料：

1.封面圖：本文作者繪製

2.[1] https://ithelp.ithome.com.tw/articles/10264224

3.[2] https://www.edgeimpulse.com

4.[3] https://sensiml.com