AscendDeviceInfo

查看源文件

import com.mindspore.config.AscendDeviceInfo;

用于配置MindSpore Lite Ascend设备选项。

公有成员函数

function

云侧推理是否支持

端侧推理是否支持

int getDeviceID)

int getDeviceType

String getProvider

void setProvider(String provider)

void setDeviceID(int deviceId)

int getRankID()

void setRankID(int rankId)

String getInsertOpConfigPath()

void setInsertOpConfigPath(String insertOpConfigPath)

String getInputFormat()

void setInputFormat(String inputFormat)

String getInputShape()

void setInputShape(String inputShape)

HashMap<Integer, ArrayList> getInputShapeMap()

void setInputShapeMap(HashMap<Integer, ArrayList> inputShapeMap)

ArrayList getDynamicBatchSize()

void setDynamicBatchSize(ArrayList dynamicBatchSize)

String getDynamicImageSize()

void setDynamicImageSize(String dynamicImageSize)

int getOutputType()

void setOutputType(int outputType)

String getPrecisionMode()

void setPrecisionMode(String precisionMode)

String getOpSelectImplMode()

void setOpSelectImplMode(String opSelectImplMode)

String getFusionSwitchConfigPath()

void setFusionSwitchConfigPath(String fusionSwitchConfigPath)

String getBufferOptimizeMode()

void setBufferOptimizeMode(String bufferOptimizeMode)

getDeviceID

public int getDeviceID()

获取昇腾设备ID。

  • 返回值

    设备ID。

getDeviceType

public int getDeviceType()

获取昇腾设备类型。

  • 返回值

    设备类型。

getProvider

public String getProvider()

获取模型后端类型。

  • 返回值

    模型后端类型。

setProvider

public void setProvider(String provider)

设置模型后端类型。

  • 参数

  • provider: 要设置的模型后端类型。

setDeviceID

public void setDeviceID(int deviceId)

设置昇腾设备ID。

  • 参数

  • deviceId: 要设置的设备ID。

getRankID

public int getRankID()

获取集群中分布式模型的逻辑ID。

  • 返回值

    逻辑ID。

setRankID

public void setRankID(int rankId)

设置集群中分布式模型的逻辑ID。

  • 参数

  • rankId: 要设置的逻辑ID。

getInsertOpConfigPath

public String getInsertOpConfigPath()

获取AIPP配置文件路径。

  • 返回值

    配置文件路径。

setInsertOpConfigPath

public void setInsertOpConfigPath(String insertOpConfigPath)

设置AIPP配置文件路径。

  • 参数

    • insertOpConfigPath: 要设置的AIPP配置文件路径。

getInputFormat

public String getInputFormat()

获取模型的输入格式。

  • 返回值

    输入格式。

setInputFormat

public void setInputFormat(String inputFormat)

设置模型的输入格式。可选"NCHW","NHWC"和"ND"。

  • 参数

  • inputFormat: 要设置的输入格式。

getInputShape

public String getInputShape()

获取模型的输入形状。

  • 返回值

    输入形状。

setInputShape

public void setInputShape(String inputShape)

设置模型的输入形状。例如"input_op_name1:1,2,3,4;input_op_name2:4,3,2,1;"。

  • 参数

  • inputShape: 模型输入形状。

getInputShapeMap

public HashMap<Integer, ArrayList<Integer>> getInputShapeMap()

获取模型的输入形状映射。

  • 返回值

    输入形状映射。

setInputShapeMap

public void setInputShapeMap(HashMap<Integer, ArrayList<Integer>> inputShapeMap)

设置模型的输入形状。例如{{0, {1,2,3,4}}, {1, {4,3,2,1}}}。

  • 参数

  • inputShapeMap: 要设置的输入形状映射。

getDynamicBatchSize

public ArrayList<Integer> getDynamicBatchSize()

获取模型的动态batch大小。

  • 返回值

    动态batch大小。

setDynamicBatchSize

public void setDynamicBatchSize(ArrayList<Integer> dynamicBatchSize)

设置模型的动态batch大小。取值范围为 2 到 100。例如 {1, 2} 表示batch大小配置为 1 和 2。

  • 参数

  • dynamicBatchSize: 要设置的动态batch大小。

getDynamicImageSize

public String getDynamicImageSize()

获取模型的动态图像尺寸。

  • 返回值

    动态图像尺寸。

setDynamicImageSize

public void setDynamicImageSize(String dynamicImageSize)

设置模型的动态图像尺寸。

  • 参数

  • dynamicImageSize: 要设置的动态图像尺寸。

getOutputType

public int getOutputType()

获取模型的输出类型。

  • 返回值

    输出类型。

setOutputType

public void setOutputType(int outputType)

设置模型的输出类型。可以是 DataType.kNumberTypeFloat32、DataType.kNumberTypeUInt8 或 DataType.kNumberTypeFloat16。

  • 参数

  • outputType: 要设置的输出类型。

getPrecisionMode

public String getPrecisionMode()

获取模型的精度模式。

  • 返回值

    精度模式。

setPrecisionMode

public void setPrecisionMode(String precisionMode)

设置模型的精度模式。可选"enforce_fp16"、"preferred_fp32"、"enforce_origin"、"enforce_fp32" 和 "preferred_optimal","enforce_fp16" 为默认值。

  • 参数

  • precisionMode: 要设置的精度模式。

getOpSelectImplMode

public String getOpSelectImplMode()

获取模型的算子选择实现方式。

  • 返回值

    算子实现方式。

setOpSelectImplMode

public void setOpSelectImplMode(String opSelectImplMode)

设置模型的算子选择实现方式。可选“high_performance”和“high_precision”,默认设置为“high_performace”。

  • 参数

  • opSelectImplMode: 算子实现方式。

getFusionSwitchConfigPath

public String getFusionSwitchConfigPath()

获取融合开关配置文件路径,它控制要关闭哪些融合pass。

  • 返回值

    融合开关配置文件路径。

setFusionSwitchConfigPath

public void setFusionSwitchConfigPath(String fusionSwitchConfigPath)

设置融合开关配置文件路径。

  • 参数

  • fusionSwitchConfigPath: 要设置的融合开关配置文件路径。

getBufferOptimizeMode

public String getBufferOptimizeMode()

获取缓冲区优化模式。可选“l1_optimize”、“l2_optimize”或“off_optimize”。“l2_optimize”设置为默认值。

  • 返回值

    缓冲区优化模式。

setBufferOptimizeMode

public void setBufferOptimizeMode(String bufferOptimizeMode)

设置缓冲区优化模式。

  • 参数

  • bufferOptimizeMode: 要设置的缓冲区优化模式。