晶心科聯手Deeplite 拓展邊緣運算市場

邊緣運算設備上,推動低功耗和低延遲深度的學習模型計算機硬體以及人工智慧推理系統這些項目發展持續創造令人興奮的新機遇業界相關產業對於應用在深度學習的硬體和軟體解決方案(也稱爲Edge AI,邊緣運算)的開發產生了前所未有的興趣

邊緣運算已經開始在某些指標性的應用中取得進展,例如音訊信號分類(audio classification)中的關鍵字搜尋(keyword spotting)、異常檢測(anomaly detection)以及電腦視覺應用中的人物辨識(person detection)。具體來說,tinyML是專爲超低功耗系統量身訂作機器學習分支,具有遠大的前景

這個提案中之解決方案的效率極高,甚至只有微瓦,加上其可廣泛地部署到此類邊緣運算在現實環境中設備的適用性預計在未來5年內,將應用在超過1000億個IoT傳感器和設備。蓄勢待發之深度學習科技的未來,將透過比以往更加可負擔、具有友善生態系、以及更容易使用的智慧科技,提供客戶終端使用者更顯著的便利。

晶心科技和Deeplite很高興地宣佈兩家公司最新合作成果--透過使用Deeplite獨特的最佳化軟體和晶心科技低功耗RISC-V CPU核心研發出具有人工智慧運算能力應用程式(AI-powered applications)。這項合作關係着重於壓縮(compressing)並加速(accelerating)著名的視覺喚醒詞(Visual Wake Words (VWW))應用程式。微型相機可以利用此類程式,進行人物圖像偵測。

Deeplite及晶心科技共同獲得了領先業界的結果,從利用浮點運算的Mobilenet-v1-0.25x模型中,產出各式最佳化的INT8模型。本次發表的第一組研發結果側重於提高精確性,以精度爲主的INT8模型最佳化提高了2.7%的精度,縮小了1.7倍的檔案大小以及提高了9%的執行速度

第二組結果主要着重於最大化壓縮(maximizing compression)。與TensorFlow Lite Micro提供的INT8 模型相比,本組專注於模型檔案尺寸最小化的模組,成功做到縮小2.3倍的檔案大小,更高的精度和提高了15%的執行速度。