3
模型应用
提问帖
有回复
BW150部署大模型NCCL报错
2026-01-23 17:43:38
193
镜像:image.sourcefind.cn:5000/dcu/admin/base/vllm:0.9.2-ubuntu22.04-dtk25.04.2-py3.10 启动命令:HIP\_VISIBLE\_DEVICES=4,5,6,7 vllm serve /data/model/Qwen3-32B/ --served-model-name Qwen3-32B --tensor-parallel-size 4 --trust-remote-code 报错情况描述: HIP\_VISIBLE\_DEVICES=0,1 不报错; HIP\_VISIBLE\_DEVICES=2,3 不报错; HIP\_VISIBLE\_DEVICES=4,5 不报错; HIP\_VISIBLE\_DEVICES=6,7 不报错; HIP\_VISIBLE\_DEVICES=0,1,2,3 不报错; HIP\_VISIBLE\_DEVICES=4,5,6,7报错; 错误日志:见txt![attachmentId-c4ca2e58d435296004fcbb4e696544dc.png](/api-forum/file/Redirect?path=forum/ac7kvltauc/1769161416615/c4ca2e58d435296004fcbb4e696544dc.png)
全部评论(3)
只看楼主
C
chenxi
1楼
替换开发者社区DTK-25.04.4版本
1/26
狂
狂风暴雨
回复 @chenxi
目前是使用docker部署。有推荐的DTK-25.04.4 带vllm的镜像吗?
1/26
C
chenxi
回复 @狂风暴雨
开发者社区上目前没有上正式版本,可以在该链接下下载对应的DTK25.04.4 https://download.sourcefind.cn:65024/1/main/DTK-25.04.4,在容器内source该DTK目录下env.sh生效
1/26
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据