mindspore

推理

接口名	描述	云侧推理是否支持	端侧推理是否支持
class Model	MindSpore中的模型，便于计算图管理。	√	√
class ModelExecutor	包装多个Model类，用于调度多个Model对象。	√	✕
class MultiModelRunner	包装多个ModelExecutor类，用于调度多个Model对象。	√	✕

运行环境配置

接口名	描述	云侧推理是否支持	端侧推理是否支持
Class AscendDeviceInfo	模型运行在Atlas 200/300/500推理产品、Atlas推理系列产品上的配置。	√	√
Class Context	保存执行中的环境变量。	√	√
Class CPUDeviceInfo	模型运行在CPU上的配置。	√	√
Class DeviceInfoContext	不同硬件设备的环境信息。	√	√
Class DSPDeviceInfo	模型运行在DSP上的配置。支持ft04和ft78设备。	✕	√
Class GPUDeviceInfo	模型运行在GPU上的配置。	√	√
Class KirinNPUDeviceInfo	模型运行在NPU上的配置。	✕	√
Enum DelegateMode	模型运行的代理模式。	√	√
Struct Key	键。	√	√

并发推理

接口名	描述	云侧推理是否支持	端侧推理是否支持
Class RunnerConfig	模型并发推理配置参数。	√	✕
Class ModelParallelRunner	模型并发推理类。	√	✕

张量Tensor相关

接口名	描述	云侧推理是否支持	端侧推理是否支持
Class Allocator	内存管理基类。	√	√
Class MSTensor	MindSpore中的张量。	√	√
Enum DataType	MindSpore MSTensor保存的数据支持的类型。	√	√
Enum Format	MindSpore MSTensor保存的数据支持的排列格式。	√	√
Struct QuantParam	MSTensor中的一组量化参数。	√	√

模型分组

接口名	描述	云侧推理是否支持	端侧推理是否支持
Enum ModelGroupFlag	模型分组。	√	√

状态

接口名	描述	云侧推理是否支持	端侧推理是否支持
Class Status	返回状态类。	√	√
Enum CompCode	返回计算类别。	√	√

序列化保存与加载

接口名	描述	云侧推理是否支持	端侧推理是否支持
Class Buffer	Buffer数据类。	√	√
Class Serialization	汇总了模型文件读写的方法。	√	√

版本查询

接口名	描述	云侧推理是否支持	端侧推理是否支持
Enum SchemaVersion	MindSpore Lite 执行推理时，模型文件的版本。	✕	√
Function CharVersion	获取字符vector形式的当前版本号。	✕	√
Function Version	获取字符串形式的当前版本号。	✕	√

回调函数

接口名	描述	云侧推理是否支持	端侧推理是否支持
Struct MSCallBackParam	MindSpore回调函数的参数。	√	√
Typedef mindspore::MSKernelCallBack	MindSpore回调函数包装器。	√	√

MindSpore Lite 训练配置

接口名	描述	云侧推理是否支持	端侧推理是否支持
Class TrainCfg	MindSpore Lite训练配置类。	✕	√
Class MixPrecisionCfg	MindSpore Lite训练混合精度配置类。	✕	√

Delegate三方框架接入机制

接口名	描述	云侧推理是否支持	端侧推理是否支持
Class AbstractDelegate	MindSpore Lite接入代理（抽象类）。	√	✕
Class CoreMLDelegate	MindSpore Lite接入CoreML框架的代理。	✕	√
Class Delegate	MindSpore Lite接入第三方AI框架的代理。	✕	√
Class DelegateModel	MindSpore Lite Delegate机制封装的模型。	✕	√
Class IDelegate	MindSpore Lite接入代理（模板类）。	√	✕
Typedef mindspore::KernelIter	MindSpore Lite 算子列表的迭代器。	✕	√

图容器

接口名	描述	云侧推理是否支持	端侧推理是否支持
Class Graph	图类。	✕	√