1
1
Qwen
提问帖
有回复
新人贴
求助!qwen模型报错 KERNEL VMFault Analysis END
2026-05-11 09:06:49
76
我的启动命令为:nohup vllm serve /data/models/Qwen3-32B --trust-remote-code -tp 8 --dtype float16 --port 13003 --served-model-name Qwen3-32B --gpu-memory-utilization 0.80 --max-model-len 22768 --max-num-batched-tokens 22768 > /var/log/vllm_qwen3_32b.log 2>&1 &
全部评论(1)
只看楼主
L
lironggui
1楼
是K100AI环境吗?加--disable-custom-all-reduce参数试试
5/13
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据