mindformers.pipeline
- mindformers.pipeline(task: str = None, model: Optional[Union[str, PreTrainedModel, Model, Tuple[str, str]]] = None, tokenizer: Optional[PreTrainedTokenizerBase] = None, image_processor: Optional[BaseImageProcessor] = None, audio_processor: Optional[BaseAudioProcessor] = None, backend: Optional[str] = 'ms', **kwargs: Any)[源代码]
通过流水线执行套件中已集成任务和模型的推理流程。
- 参数:
task (str, 可选) - 支持的任务列表['text_generation', 'image_to_text_generation', 'multi_modal_to_text_generation']。默认值:
None
。model (Union[str, PreTrainedModel, Model, Tuple[str, str]], 可选) - 执行任务的模型。默认值:
None
。tokenizer (PreTrainedTokenizerBase, 可选) - 模型分词器。默认值:
None
。image_processor (BaseImageProcessor, 可选) - 图片处理器。默认值:
None
。audio_processor (BaseAudioProcessor, 可选) - 音频处理器。默认值:
None
。backend (str, 可选) - 推理后端,当前仅支持 ms。默认值:
"ms"
。kwargs (Any) - 参考对应流水线任务的 kwargs 描述。
- 返回:
一个流水线任务。
- 异常:
KeyError - 如果输入模型和任务不在支持列表中。