MindSpore成立Heterogeneous Fusion SIG：推动MindSpore异构算力融合加速与支持

为提升MindSpore异构算力融合的支持度和异构硬件接入的开放性，昇思MindSpore社区正式成立异构算力融合SIG（Heterogeneous Fusion SIG），以期更好的通过MindSpore使能异构硬件加速，并设计稳定、易用的支持异构硬件接入的南向接口。

MindSpore异构算力融合架构：

为了方便异构硬件快速接入MindSpore，Heterogeneous Fusion SIG抽象了Hal硬件能力(DeviceContext)，框架仅感知Hal抽象层，异构硬件接入仅需实现具体的Hal硬件功能，实现了框架功能跟硬件接入的解耦：

1、ResManager：硬件资源抽象，主要包括硬件初始化、内存管理、内存拷贝、流资源管理等基础硬件能力。

2、CustomOptimizer：自定义图优化抽象，可以根据硬件的特性对某些算子进行拆分与融合，以及其他自定义的对图的修改。

3、KernelExecutor：算子执行器抽象，主要包括算子选择、算子编译、算子执行，支持跨芯片异构执行。

MindSpore Heterogeneous Fusion项目代码仓模块目录：

https://gitee.com/mindspore/mindspore/tree/master/mindspore/ccsrc/backend

https://gitee.com/mindspore/mindspore/tree/master/mindspore/ccsrc/plugin

https://gitee.com/mindspore/mindspore/tree/master/mindspore/ccsrc/runtime/graph\_scheduler

https://gitee.com/mindspore/mindspore/tree/master/mindspore/ccsrc/runtime/hardware

SIG的愿景与使命：

基于MindSpore构建开放的南向接口，协同业界厂商和学术机构，构建异构算力融合加速能力和使能全场景部署与应用。

SIG的核心目标：

1、探讨、设计并构建框架开放的南向接口，以利于各大芯片可按需注入对接，复用MindSpore的基础能力。

2、按需构建异构芯片的对接支持，扩展MindSpore对其他异构芯片的支持。

主要工作内容：

1、设计并完善硬件的南向接口。

2、按需对接异构芯片，并验证关键网络，如qwen等模型的有效运行。

SIG例会：

周期：月度例会

每月的最后一个周四（北京时间15:00）例行展开SIG会议

临时补充专项讨论会议：基于前一次会议讨论，按需临时增开专项议题会议讨论

首次例会录屏：

https://www.bilibili.com/video/BV1Pq78zHEr2

例会纪要：

https://etherpad.mindspore.cn/p/sig-Heterogeneous-Fusion-meetings

订阅邮件：https://www.mindspore.cn/sig/Heterogeneous%20Fusion

（欢迎大家订阅SIG邮件，后续例会将通过邮件通知大家）

SIG成员：

Maintainer 列表

Committer列****表

加入我们：

欢迎感兴趣的朋友们加入到MindSpore Heterogeneous Fusion SIG，共同探讨多样算力接入的南向接口设计与异构硬件的支持，可以添加小助手微信或扫描微信群二维码，入群讨论。欢迎您的围观和加入！