以 RISC-V SoC 為基礎的類神經網路模型部署工具

Abstract

本論文實做一個適用於 RISC-V SoC 的模型部署工具，將建立模型、量化模型、部署模型功能整合成一套軟體工具，使用自訂義之 Intermedia Representation 將神經網路自動轉換為可以在 SoC 執行的 C 語言，主要目的是簡化 TinyML 系統開發階段的模型部署流程。使用 Genesys2 FPGA 實現 Rocket Core 與 AI accelerator Gemmini 為基礎的 SoC 驗證此工具的部署結果，包括神經網路推理資料流以及效能。none