mindspore.communication.comm_func.barrier

查看源文件
mindspore.communication.comm_func.barrier(group=GlobalComm.WORLD_COMM_GROUP)[源代码]

同步通信域内的多个进程。进程调用到该算子后进入阻塞状态，直到通信域内所有进程调用到该算子，进程被唤醒并继续执行。

参数：

  • group (str, 可选) - 工作的通信组。默认值： GlobalComm.WORLD_COMM_GROUP （即Ascend平台为 "hccl_world_group" ，GPU平台为 "nccl_world_group" ）。

异常：

  • RuntimeError - 后端无效，或分布式初始化失败。

支持平台：

Ascend

样例：

说明

运行以下样例之前，需要配置好通信环境变量。

针对Ascend/GPU/CPU设备，推荐使用msrun启动方式，无第三方以及配置文件依赖。详见 msrun启动 。

该样例需要在多卡环境下运行。

>>> import mindspore as ms
>>> import mindspore.communication as comm
>>>
>>> # Launch 2 processes.
>>> comm.init()
>>> comm.comm_func.barrier()
>>> print("barrier finish!")
barrier finish!