mindspore::lite

查看源文件

#include <context.h>

#include <model.h>

#include <version.h>

Allocator

Allocator类定义了一个内存池,用于动态地分配和释放内存。

Context

Context类用于保存执行中的环境变量。

构造函数和析构函数

Context()

用默认参数构造MindSpore Lite Context 对象。

~Context()

MindSpore Lite Context 的析构函数。

公有属性

float16_priority

bool值,默认为false,用于使能float16 推理。

使能float16推理可能会导致模型推理精度下降,因为在模型推理的中间过程中,有些变量可能会超出float16的数值范围。

device_type

DeviceType枚举类型。默认为DT_CPU,用于设置设备信息。

thread_num_

int 值,默认为2,设置线程数。

allocator

指针类型,指向内存分配器Allocator的指针。

cpu_bind_mode_

CpuBindMode枚举类型,默认为MID_CPU

PrimitiveC

PrimitiveC定义为算子的原型。

Model

Model定义了MindSpore Lite中的模型,便于计算图管理。

析构函数

~Model()

MindSpore Lite Model的析构函数。

公有成员函数

void Destroy()

释放Model内的所有过程中动态分配的内存。

void Free()

释放MindSpore Lite Model中的MetaGraph,用于减小运行时的内存。

静态公有成员函数

static Model *Import(const char *model_buf, size_t size)

创建Model指针的静态方法。

  • 参数

    • model_buf: 定义了读取模型文件的缓存区。

    • size: 定义了模型缓存区的字节数。

  • 返回值

    指向MindSpore Lite的Model的指针。

CpuBindMode

枚举类型,设置cpu绑定策略。

属性

MID_CPU = -1

优先中等CPU绑定策略。

HIGHER_CPU = 1

优先高级CPU绑定策略。

NO_BIND = 0

不绑定。

DeviceType

枚举类型,设置设备类型。

属性

DT_CPU = -1

设备为CPU。

DT_GPU = 1

设备为GPU。

DT_NPU = 0

设备为NPU,暂不支持。

Version

std::string Version()

全局方法,用于获取版本的字符串。

  • 返回值

    MindSpore Lite版本的字符串。