集成银河飞腾DSP使用说明

查看源文件

使用步骤

环境准备

在基本的环境准备之外,使用银河飞腾DSP需要集成dsp_sdk。dsp_sdk包含了使用银河飞腾DSP的异构编程接口,以及封装成静态库的接口实现(名为libhthread_host.a)。将dsp_sdk目录设置为环境变量${DSP_SDK_PATH},构建脚本将使用这个环境变量寻找dsp_sdk。此外还需要交叉编译工具,安装命令如下:

sudo apt-get update && apt-get install -y --no-install-recommends \
  g++-arm-linux-gnueabihf gcc-arm-linux-gnueabihf

编译构建

在Linux环境,执行MindSpore Lite源代码根目录下的build.sh脚本,将在MindSpore Lite源代码根目录下的output文件夹构建出集成银河飞腾DSP的MindSpore Lite包,其中包含libmindspore-lite动态库以及测试工具Benchmark。命令如下:

export MSLITE_REGISTRY_DEVICE=ft78
export DSP_SDK_PATH=${your path}/dsp_sdk
export MSLITE_ENABLE_TESTCASES=ON
export MSLITE_ENABLE_TOOLS=ON
bash build.sh -I arm32 -j8

其中,${your path}/dsp_sdk为dsp_sdk的路径。MSLITE_REGISTRY_DEVICE有两个选项:ft78ft04,分别对应不同的银河飞腾DSP芯片。有关编译详情见Linux环境编译

集成使用

  • 集成说明

    开发者集成银河飞腾DSP功能时,需要在代码中配置银河飞腾DSP后端,相关使用方法可以参考使用Runtime执行推理(C++)

  • Benchmark测试银河飞腾DSP推理

    用户可以使用MindSpore Lite的Benchmark工具测试银河飞腾DSP推理性能。将Benchmark工具拷贝到ft78或者ft04设备上,执行如下命令:

    ./benchmark --device=DSP --modelFile=./models/test_benchmark.ms --timeProfiling=true
    

有关Benchmark使用详情,见Benchmark使用

有关环境变量设置,将libmindspore-lite.so拷贝到ft78ft04设备的/usr/lib目录即可。

芯片支持

支持ft04ft78两种设备类型。

算子支持

银河飞腾DSP算子支持见Lite 算子支持