光合开发者社区-论坛

基础环境

东方超算上使用torch.distributed.launch命令 ddp 训练问题

2025-09-30 15:25:16

108

请问有使用python -m torch.distributed.launch 命令启动 ddp 训练的 demo 和 slurm 提交作业脚本吗，目前使用这种方式启动会卡住不动

zhangwb

2楼

您好，你可以参考一下这个链接中的内容，我看这里面有demo讲怎么启动的。你看下是不是你需要的。https://gist.github.com/TengdaHan/1dd10d335c7ca6f13810fff41e809904

2025/10/27

liumg

1楼

https://developer.sourcefind.cn/wp-content/uploads/2021/07/SLURM%E4%BB%8B%E7%BB%8D%E4%B8%8E%E4%BD%9C%E4%B8%9A%E6%8F%90%E4%BA%A4.pdf 这有slurm的使用介绍

2025/10/9

Haoyu Deng

回复 @liumg

您好，我们知道怎么配置 slurm，主要是请问有使用python -m torch.distributed.launch 命令启动 ddp 训练的 demo 吗，有一个项目采用这种方式启动比如在 slurm 脚本里可以通过下面命令启动 ddp 训练的方式： python -m torch.distributed.launch --nproc_per_node=8 --master_port=4331 basicsr/train.py -opt options/train/SwinIR/train_SwinIR_SRx4_scratch.yml --launcher pytorch --auto_resume 参考代码：https://github.com/Meta-Portrait/MetaPortrait/blob/4c3c9e38d000f7db50c3a7ab736161f7aecc741a/sr_model/Basicsr/docs/HOWTOs.md 谢谢！

2025/10/23