数学库
标题
2024-10-09 15:36:32
52

请问在DCU上用pytorch的数据并行的话,dist.init_process_group("mpi") 的通信后端应该写什么呢?

 

全部评论(1)
只看楼主
A
ANYA
1楼
这个主要是通信后端的选择,使用和NV是一致的,通常来说后端使用nccl的时候多一些
2024/10/10
没有更多内容了
--
楼主
Level.2
0 帖子
楼主热帖
暂无数据