Ascend 310 AI处理器上推理

Linux Ascend 推理应用 初级 中级 高级

使用ONNX与AIR格式文件推理

Ascend 310 AI处理器上搭载了ACL框架，他支持OM格式，而OM格式需要从ONNX或者AIR模型进行转换。所以在Ascend 310 AI处理器上推理，需要下述两个步骤：

在训练平台上生成ONNX或AIR格式模型，具体步骤请参考导出AIR格式文件和导出ONNX格式文件。
将ONNX/AIR格式模型文件，转化为OM格式模型，并进行推理。
- 云上（ModelArt环境），请参考Ascend910训练和Ascend310推理的样例完成推理操作。
- 本地的裸机环境（对比云上环境，即本地有Ascend 310 AI 处理器），请参考Ascend 310 AI处理器配套软件包的说明文档。