1
1
1
Qwen
提问帖
有回复
新人贴
关于VLLM0.11.0适配Z100L卡的问题
2025-12-28 13:34:56
429
我昨天看到社区发布了vllm0.11.0镜像(0.11.0-ubuntu22.04-dtk25.04.2-1226-das1.7-py3.10-20251226),介绍中支持Z100L卡,且支持Qwen3-VL系列。我的问题是,我目前的机器装的就是Z100L,想跑Qwen3-VL系列的多模态模型,但目前的dtk是23.10.1,是否需要将dtk升级到镜像名称中的dtk25.04.2才行?名称里的das1.7是什么意思啊?
全部评论(12)
只看楼主
S
sdfkjk
3楼
请问Z100L可以推理qwen3吗
2025/12/29
L
litzh
2楼
你好,最新版vllm0.11.0镜像是不支持Z100L、K100系列卡的
2025/12/29
网
网友2jygsy
回复 @litzh
这里的问题修复,写的很清楚啊,修复了不支持Z100L、K100系列卡的问题。
2025/12/29
吴
吴宇
回复 @litzh
所以K100_AI也不能用?
2025/12/29
L
litzh
回复 @吴宇
K100AI系列支持
2025/12/29
全部7条回复
东
东风
1楼
DTK可以理解成DCU版的CUDA,是适配DCU的高性能计算工具包,基于AMD的ROCM改进而来。DAS叫“DCU人工智能基础软件系统”,本质上是一个AI软件与工具库,1.7是DAS最新版本,意思是包括了DCU所能支持的所有最新版本的AI工具包,包括pytorch tensorflow等等,你安装pytorch就是要在DAS里面去找wheel安装包
2025/12/28
网
网友2jygsy
回复 @东风
那我的理解,我升级dtk到25.04.2后,使用目前这个镜像,就能在我Z100L上运行Qwen3-VL系列的模型了对吧?
2025/12/29
东
东风
回复 @网友2jygsy
理论上是的,但实际上我没跑过,具体还要看Z100L支持到vLLM的哪一个版本
1/4
没有更多内容了
--
楼主
Level.2
0 帖子
楼主热帖
暂无数据