官方基本放弃对k100的支持了
0
2
0
0
K100（不是k100 ai），如何部署qwen3以上模型？
2026-10-13 17:35:09
112
显卡：k100
使用镜像：vllm-0.15.1-kylin10sp3-dtk26.04-py3.10
部署模型：Qwen3-30B-A3B-Instruct-2507
报错内容如下：
K100是否可用于部署模型？有没有兄弟部署成功过的，给个命令
vllm
qwen3.6
全部评论（4）
只看楼主
Y
10/14
S
可以尝试一下 vLLM 0.8.5 镜像部署小参数 Dense 模型，MoE 这种应该不支持
10/13
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据