2
框架组件
使用VLLM镜像启动Qwen 出现RuntimeError: No HIP GPUs are available
2025-07-17 19:13:55
236

使用这个镜像shdocker pull image.sourcefind.cn:5000/dcu/admin/base/vllm:0.8.5-ubuntu22.04-dtk25.04.1-rc5-das1.6-py3.10-20250711

attachmentId-image.png

 

全部评论（1）
只看楼主
C
changhl
1楼

您好：

vllm 启动模型服务时，需要添加-tp 参数。vllm部署案例也可以参考https://sourcefind.cn/#/model-zoo/list

vllm serve 模型路径 -tp 1
2025/7/18
没有更多内容了
--
楼主
Level.3
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据