mindformers.pipeline

查看源文件
mindformers.pipeline(task: str = None, model: Optional[Union[str, PreTrainedModel, Model, Tuple[str, str]]] = None, tokenizer: Optional[PreTrainedTokenizerBase] = None, image_processor: Optional[BaseImageProcessor] = None, audio_processor: Optional[BaseAudioProcessor] = None, backend: Optional[str] = 'ms', **kwargs: Any)[源代码]

通过流水线执行套件中已集成任务和模型的推理流程。

参数:
  • task (str, 可选) - 支持的任务列表['text_generation', 'image_to_text_generation', 'multi_modal_to_text_generation']。默认值: None

  • model (Union[str, PreTrainedModel, Model, Tuple[str, str]], 可选) - 执行任务的模型。默认值: None

  • tokenizer (PreTrainedTokenizerBase, 可选) - 模型分词器。默认值: None

  • image_processor (BaseImageProcessor, 可选) - 图片处理器。默认值: None

  • audio_processor (BaseAudioProcessor, 可选) - 音频处理器。默认值: None

  • backend (str, 可选) - 推理后端,当前仅支持 ms。默认值: "ms"

  • kwargs (Any) - 参考对应流水线任务的 kwargs 描述。

返回:

一个流水线任务。

异常:
  • KeyError - 如果输入模型和任务不在支持列表中。