代码
MindSpore成立MindSpore PyNative SIG:推动MindSpore动态图模式的研发与优化

MindSpore成立MindSpore PyNative SIG:推动MindSpore动态图模式的研发与优化

MindSpore成立MindSpore PyNative SIG:推动MindSpore动态图模式的研发与优化

为了提升MindSpore动态图模式的性能、灵活性和易用性,以满足深度学习领域对快速开发、调试、执行等的需求,昇思MindSpore社区正式成立动态图模式框架开发SIG(MindSpore PyNative SIG),专注推动MindSpore动态图(即时执行, Eager Execution)模式的研发与优化。

MindSpore动态图整体架构:

为破解动态图开发灵活性与静态图部署性能不可兼得的行业难题,MindSpore以 “动静结合” 为核心思想重构动态图架构:

1、动静结合的前端表达接口,新增mint模块,功能对齐业界主流AI框架。

2、正向执行使用多级流水加速,弥补数据结构和流程引入的额外开销,提升单算子下发性能。

3、动静结合的执行方式,使用AST和字节码入图方式,实现动静混合执行。

4、自动微分机制复用静态图同一套机制,正反向hook对齐业界主流AI框架,兼顾自动微分灵活性。

该设计在保留 Python 实时调试优势的同时,显著提升动态图执行效率,实现 “动态研发、静态部署” 的全场景无缝衔接,为AI模型从实验到落地提供统一技术基座。

MindSpore PyNative项目代码仓模块目录:

https://gitee.com/mindspore/mindspore/tree/master/mindspore/ccsrc/pynative

https://gitee.com/mindspore/mindspore/tree/master/mindspore/ccsrc/pyboost

https://gitee.com/mindspore/mindspore/tree/master/mindspore/ccsrc/runtime/pynative

当前SIG重点工作方向:

1、动态图分发机制开发:Tensor核心数据结构,API分发机制等维护和开发。

2、动态图自动微分机制:自动微分机制,自定义反向,hook机制等微分机制的维护和开发。

3、API接入机制:Tensor API和Functional API的生成和接入机制的维护和开发。

SIG目标:

1、性能优化:提升动态图模式下的API下发效率,降低与静态图的性能差距。

2、功能增强:完善动态图对主流模型的支持。

3、开发者体验:简化API设计,提供更友好的错误提示,降低迁移成本。

4、生态扩展:支持更多硬件后端的接入和扩展。

SIG例会:

双周例会,北京时间周四晚19点。

首次例会录屏:

https://www.bilibili.com/video/BV1NB7nzfEXq

例会纪要:

https://etherpad.mindspore.cn/p/sig-MindSpore-PyNative-meetings

订阅邮件:

https://www.mindspore.cn/sig/MindSpore%20PyNative

(欢迎大家订阅SIG邮件,后续例会将通过邮件通知大家)

SIG成员:

Maintainer 列表

Committer列****表

加入我们:

欢迎感兴趣的朋友们加入到MindSpore PyNative SIG,共同探讨动态图技术,可以添加小助手微信或扫描微信群二维码,入群讨论。欢迎您的围观和加入!