cupy.cuda.nccl.groupEnd

cupy.cuda.nccl.groupEnd()

结束 NCCL 调用组。必须与 groupStart() 配对使用。

注意

当 NcclCommunicator 实例通过 initAll() 创建时，此方法很有用。典型的用法模式如下：

comms = cupy.cuda.nccl.NcclCommunicator.initAll(n, dev_list)
# ... do some preparation work
cupy.cuda.nccl.groupStart()
for rank, comm in enumerate(comms):
    # ... make some collective calls ...
cupy.cuda.nccl.groupEnd()

其他用例包括将多个 NCCL 调用合并为一个，以及使用 send() 和 recv() 进行点对点通信（NCCL 2.7+ 支持）。

另请参阅

ncclGroupEnd, 组调用