Class KirinNPUDeviceInfo

#include <context.h>

派生自DeviceInfoContext，模型运行在NPU上的配置。

公有成员函数

函数	云侧推理是否支持	端侧推理是否支持
enum DeviceType GetDeviceType() const override	√	√
void SetEnableFP16(bool is_fp16)	✕	√
bool GetEnableFP16() const	✕	√
void SetFrequency(int frequency)	✕	√
int GetFrequency() const	✕	√

GetDeviceType

enum DeviceType GetDeviceType() const override

• 返回值

  DeviceType::kKirinNPU

SetEnableFP16

void SetEnableFP16(bool is_fp16)

用于指定是否以FP16精度进行推理。

• 参数

  • is_fp16: 是否以FP16精度进行推理。

GetEnableFP16

bool GetEnableFP16() const

• 返回值

  已配置的精度模式。

SetFrequency

void SetFrequency(int frequency)

用于指定NPU频率。

• 参数

  • frequency: 设置为1（低功耗）、2（均衡）、3（高性能）、4（极致性能），默认为3。

GetFrequency

int GetFrequency() const

• 返回值

  已配置的NPU频率模式。