網(wǎng)站開發(fā)方案目錄,哈爾濱網(wǎng)站開發(fā)培訓,重慶市建設工程監(jiān)督信息網(wǎng),gps建站步驟視頻關注星標公眾號#xff0c;不錯過精彩內容來源 | 瑞薩嵌入式小百科隨著人工智能的發(fā)展#xff0c;以及MCU性能的提高#xff0c;在MCU上跑一些算法已經不是什么遙不可及的事了。到目前為止#xff0c;很多MCU跑AI算法已經很“輕松”了#xff0c;今天就手把手教大家移植CM…關注星標公眾號不錯過精彩內容 來源 | 瑞薩嵌入式小百科隨著人工智能的發(fā)展以及MCU性能的提高在MCU上跑一些算法已經不是什么遙不可及的事了。到目前為止很多MCU跑AI算法已經很“輕松”了今天就手把手教大家移植CMSIS-NN V6.0.0到瑞薩RA8單片機VisionBoard開發(fā)板。CMSIS-NN是什么官方的解釋是CMSIS NN software library is a collection of efficient neural network kernels developed to maximize the performance and minimize the memory footprint of neural networks on Arm Cortex-M processors.翻譯一下就是CMSIS NN 軟件庫是一組高效的神經網(wǎng)絡核函數(shù)旨在最大限度地提高 Arm Cortex-M 處理器上神經網(wǎng)絡的性能并最大限度地減少內存占用。CMSIS-NN是一個計算庫它向上提供了神經網(wǎng)絡NN計算接口實現(xiàn)了神經網(wǎng)絡計算的硬件加速。它內部實現(xiàn)了純CPU計算、DSP計算、MVE計算屏蔽了底層硬件的具體細節(jié)降低了編程難度。為什么移植CMSIS-NN v6.0.0版本1CMSIS-NN核心特性總結一下官方的介紹可以知道CMSIS-NN庫的核心特性專為Cortex-M處理器開發(fā)神經網(wǎng)絡計算函數(shù)最大化性能最小化內存占用2CMSIS-NN的硬件和軟件支持除此之外CMSIS-NN庫還有幾點也是值得關注的支持DSP擴展的處理器使用SIMD優(yōu)化例如Cortex-M4核支持ARM的Heilum技術的處理器使用M核向量擴展MVEM-profile Vector Extension進行優(yōu)化例如 Cortex-M55 或 Cortex-M85MVE擴展恰好是ARM Cortex-M85內置的VisionBoard主控芯片瑞薩RA8D1的CPU核正是ARM Cortex-M85CMSIS-NN可以作為TensorFlow Lite for Microcontroller的后端實現(xiàn)3CMSIS-NN核心特性CMSIS-NN v6.0.0版本的發(fā)布說明中介紹了新特性全連接FC、卷積CONV和深度卷積DWCONV添加了MVE指令的int4類型支持重新實現(xiàn) LSTM 以與 TFLM 參考內核保持一致LSTM 對 int16 輸入的支持DSP/MVEI 支持轉置卷積支持分組卷積支持 FC 的非零濾波器偏移對 MVEI 的 Int16 輸入卷積支持對 int16x8 卷積的 Int32 偏置支持更能多內容可以查看本文末尾的CMSIS-NN v6.0.0 Release Note如何移植CMSIS-NN v6.0.0到VisionBoard1創(chuàng)建RT-Thread項目RT-Thread Studio創(chuàng)建基于VisionBoard開發(fā)板的模板項目過程比較簡單不再贅述。2添加CMSIS-NN源碼RT-Thread Studio創(chuàng)建基于VisionBoard開發(fā)板的模板項目后在packages目錄手動下載CMSIS-NN v6.0.0版本3修改RT-Thread代碼修改項目頂層的Kconfig文件添加如下代碼行注意Kconfig修改需要完需要保證最后有一行空行否則menuconfig命令會報奇怪的錯誤。檢查packages目錄內是否有SConsript文件并且內容如下如果沒有可以手動創(chuàng)建。4修改CMSIS-NN代碼CMSIS-NN目錄頂層創(chuàng)建SConscript文件內容如下創(chuàng)建Kconfig文件內容如下5編譯RT-Thread項目完成以上修改之后已經可以編譯CMSIS-NN庫的代碼了。在命令行中執(zhí)行如下命令編譯整個項目編譯輸出最后部分如下圖所示如何測試CMSIS-NN v6.0.01CMSIS-NN核心特性CMSIS-NN庫內部帶有了單元測試具體位于 Tests/UnitTest 子目錄其中 unittest_targets.py 腳本可以用于生成測試腳手架代碼使用方法如下當前生成的代碼是單獨生成elf文件并在ARM虛擬硬件AVH平臺上運行的。默認情況下執(zhí)行python unittest_targets.py —download-and-generate-test-runners命令會為每個測試用例生成一個main函數(shù)每個測試用例單獨編譯為一個elf文件之后使用ARM虛擬硬件AVH執(zhí)行elf進行測試。為了能夠生成在RT-Thread上運行的測試代碼需要修改部分測試腳本代碼實現(xiàn)將每個測試用例注冊為一個獨立的finsh命令在串口命令行中交互測試。具體修改的代碼差異如下這段修改實現(xiàn)了調用unity的ruby腳本傳遞main_name命令行參數(shù)用于修改單元測試入口函數(shù)名稱不指定默認是main生成一個獨立的RT-Thread finsh命令注冊代碼.c文件生成一個用于編譯的SConscript代碼文件另外再結合上層目錄的SConcsript包含所有子目錄的SConscript就可以實現(xiàn)將所有單元測試編譯為finsh命令了。修改完該腳本文件后執(zhí)行如下命令生成RT-Thread平臺測試代碼命令執(zhí)行輸出如下2測試代碼的構建規(guī)則SConscript然后需要在CMSIS-NN的Tests子目錄內添加SConscript文件這段SConscript的作用是將子目錄的SConscript腳本包含到整個項目的構建流程中去。接著需要在CMSIS-NN的Tests/UnitTest子目錄內添加SConscript文件完成以上修改后通過menuconfig打開 PKG_USING_CMSIS_NN_TESTS 配置項目再次 scons 編譯就可以編譯單元測試代碼文件了。3解決鏈接失敗問題但是還會有一些編譯錯誤原因主要有原來的測試腳本為每個測試用例獨立生成main函數(shù)每個目錄單獨編譯鏈接到一起時會有大量重復的setUp/tearDown/resetTest/verifyTest函數(shù)定義原來的測試數(shù)據(jù)數(shù)組沒有加static修飾被重復include到多個.c文件鏈接到一起時會有數(shù)組重復的數(shù)組定義為了解決上述兩類問題分別創(chuàng)建兩個腳本。修復重復函數(shù)定義的 fix_testCode.sh解決方法所有 setUp/tearDown/resetTest/verifyTest 函數(shù)添加 weak 屬性修飾修復重復數(shù)組定義的 fix_testData.sh解決方法所有測試數(shù)據(jù)的數(shù)組添加static修飾。分別執(zhí)行上面兩個腳本之后再次編譯就沒有編譯錯誤了。4運行單元測試順利編譯之后下載固件運行后在串口輸入help命令可以看到輸入命令運行avgpool算子的測試其他幾個算子的s8類型測試修改后的CMSIS-NN代碼倉https://github.com/xusiwei/CMSIS-NN參考鏈接1.CMSIS-NN源碼倉https://github.com/ARM-software/CMSIS-NN2.TFLM項目介紹頁]https://tensorflow.google.cn/lite/microcontrollers/overview?hlzh-cn3.CMSIS-NN v6.0.0 Release Notehttps://github.com/ARM-software/CMSIS-NN/releases/tag/v6.0.04.Ruby下載頁面https://www.ruby-lang.org/zh_cn/downloads/------------END------------單片機選項字節(jié)在IAR、CS、e2studio下的設置在1 GHz 主頻單片機上部署AI模型10分鐘在MCU上快速部署LWIP