贡献指南
贡献者许可协议
向MindSpore社区提交代码之前,您需要签署《贡献者许可协议(CLA)》。 个人贡献者请参见ICLA在线文件。
快速入门
增加新模型
若希望将一个新模型合入vLLM-MindSpore插件代码仓库,需要注意几点:
文件格式及位置要遵循规范。 模型代码文件统一放置于
vllm_mindspore/model_executor
文件夹下,请根据不同模型将代码文件放置于对应的文件夹下。模型基于MindSpore接口实现,支持jit静态图方式执行。 vLLM-MindSpore插件中的模型定义实现需基于MindSpore接口实现。由于MindSpore静态图模式执行性能有优势,因此模型需支持@jit静态图方式执行。详细可参考Qwen2.5模型定义实现。
将新模型在vLLM-MindSpore插件代码中进行注册。 模型结构定义实现后,需要将该模型注册到vLLM-MindSpore插件中,注册文件位于'vllm_mindspore/model_executor/models/registry.py'中,请将模型注册到
_NATIVE_MODELS
。编写单元测试。 新增的模型需同步提交单元测试用例,用例编写请参考Qwen2.5模型用例。
贡献流程
代码风格
请遵循此风格,以便社区代码的审查、维护和开发。
Fork-Pull开发模型
Fork vLLM-MindSpore插件代码仓: 在提交代码至vLLM-MindSpore插件项目之前,请确保已fork此项目到您自己的代码仓。vLLM-MindSpore插件代码仓和您自己的代码仓之间可能会并行开发,请注意它们之间的一致性。
克隆远程代码仓: 如果您想将代码下载到本地计算机,最好使用git方法:
# 在Gitee上: git clone https://gitee.com/{insert_your_forked_repo}/vllm-mindspore.git git remote add upstream https://gitee.com/mindspore/vllm-mindspore.git
本地开发代码: 为避免分支不一致,建议切换到新分支:
git checkout -b {新分支名称} origin/master
以master分支为例,如果需要创建版本分支和下游开发分支,请先修复上游的bug后再更改代码。
将代码推送到远程代码仓: 更新代码后,以正式的方式推送更新:
git add . git status # 查看更新状态。 git commit -m "你的commit标题" git commit -s --amend # 添加commit的具体描述。 git push origin {新分支名称}
将请求拉取到vLLM-MindSpore插件代码仓: 在最后一步中,您需要在新分支和vLLM-MindSpore插件主分支之间拉取比较请求然后创建PR。提交PR提交后,需要在评论中通过
/retest
手动触发门禁检查,进行构建测试。PR应该尽快合并到上游master分支中,以降低合并的风险。
报告Issue
发现问题后,建议以报告issue的方式为项目作出贡献。错误报告应尽量书写规范,内容详尽。
报告issue时,请参考以下格式:
说明您使用的环境版本(vLLM-MindSpore插件、MindSpore TransFormers、MindSpore、OS、Python等);
说明是错误报告还是功能需求;
说明issue类型,添加标签可以在issue板上突出显示该issue;
问题是什么;
期望如何处理;
如何复现(尽可能精确具体地描述);
给审核员的特别说明。
Issue咨询:
解决issue时,请先评论,告知他人由您来负责解决该issue。
对于长时间未关闭的issue,建议贡献者在解决该issue之前进行预先检查。
如您自行解决了自己报告的issue,仍需在关闭该issue之前告知他人。
提交PR
如果是需要大量设计细节的新功能,还应提交设计方案。
经issue讨论和设计方案评审达成共识后,在已fork的代码仓开发,并提交PR。
任何PR至少需要位2位审批人的LGTM标签。请注意,审批人不允许在自己的PR上添加LGTM标签。
经充分讨论后,根据讨论的结果合并、放弃或拒绝PR。
PR咨询:
避免不相关的更改。
确保您的commit历史记录有序。
确保您的分支与主分支始终一致。
用于修复错误的PR中,确保已关联所有相关问题。
最后,感谢您对为vLLM-MindSpore插件项目做出贡献的兴趣,我们欢迎并重视任何形式的贡献与合作。