Class CPUDeviceInfo

#include <context.h>

派生自DeviceInfoContext,模型运行在CPU上的配置。

公有成员函数

函数

云侧推理是否支持

端侧推理是否支持

enum DeviceType GetDeviceType() const override

void SetEnableFP16(bool is_fp16)

bool GetEnableFP16() const

GetDeviceType

enum DeviceType GetDeviceType() const override
  • 返回值

    DeviceType::kCPU

SetEnableFP16

void SetEnableFP16(bool is_fp16)

用于指定是否以FP16精度进行推理。

  • 参数

    • is_fp16: 是否以FP16精度进行推理。

GetEnableFP16

bool GetEnableFP16() const
  • 返回值

    已配置的精度模式。