集成银河飞腾DSP使用说明
使用步骤
环境准备
在基本的环境准备之外,使用银河飞腾DSP需要集成dsp_sdk。dsp_sdk包含了使用银河飞腾DSP的异构编程接口,以及封装成静态库的接口实现(名为libhthread_host.a)。将dsp_sdk目录设置为环境变量${DSP_SDK_PATH},构建脚本将使用这个环境变量寻找dsp_sdk。此外还需要交叉编译工具,安装命令如下:
sudo apt-get update && apt-get install -y --no-install-recommends \
g++-arm-linux-gnueabihf gcc-arm-linux-gnueabihf
编译构建
在Linux环境,执行MindSpore Lite源代码根目录下的build.sh脚本,将在MindSpore Lite源代码根目录下的output文件夹构建出集成银河飞腾DSP的MindSpore Lite包,其中包含libmindspore-lite动态库以及测试工具Benchmark。命令如下:
export MSLITE_REGISTRY_DEVICE=ft78
export DSP_SDK_PATH=${your path}/dsp_sdk
export MSLITE_ENABLE_TESTCASES=ON
export MSLITE_ENABLE_TOOLS=ON
bash build.sh -I arm32 -j8
其中,${your path}/dsp_sdk为dsp_sdk的路径。MSLITE_REGISTRY_DEVICE有两个选项:ft78和ft04,分别对应不同的银河飞腾DSP芯片。有关编译详情见Linux环境编译。
集成使用
集成说明
开发者集成银河飞腾DSP功能时,需要在代码中配置银河飞腾DSP后端,相关使用方法可以参考使用Runtime执行推理(C++)。
Benchmark测试银河飞腾DSP推理
用户可以使用MindSpore Lite的Benchmark工具测试银河飞腾DSP推理性能。将Benchmark工具拷贝到
ft78或者ft04设备上,执行如下命令:./benchmark --device=DSP --modelFile=./models/test_benchmark.ms --timeProfiling=true
有关Benchmark使用详情,见Benchmark使用。
有关环境变量设置,将libmindspore-lite.so拷贝到ft78或ft04设备的/usr/lib目录即可。
芯片支持
支持ft04和ft78两种设备类型。
算子支持
银河飞腾DSP算子支持见Lite 算子支持。