6
7
Qwen
vllm0.8.4 会支持K100吗？
2025-06-11 13:29:55
206

好多新的都只支持K100_AI，感觉K100被抛弃了？

 如果官方不支持，有没有什么教程，我们自己编译下，是否可行

全部评论（6）
只看楼主
Z
zc
1楼
你好，vllm0.8.5支持K100，但是只支持dense模型的推理
2025/6/11
网
网友OMk7on
回复 @zc

请问，哪里能下载到0.8.5？

这里没有https://download.sourcefind.cn:65024/4/main/vllm/DAS1.5
2025/6/11
Z
zc
回复 @zc
https://sourcefind.cn/#/image/dcu/custom?activeName=overview，可以在这里面找0.8.5的镜像
2025/6/11
狂
狂风暴雨
回复 @zc
在K100 上 使用这个镜像 image.sourcefind.cn:5000/dcu/admin/base/custom:vllm0.8.5-ubuntu22.04-dtk25.04-rc7-das1.5-py3.10-20250521-fixpy-rocblas0521-beta2 运行Qwen3 出现如下异常 ，请您复现下呢
2025/6/19
全部5条回复
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据