23
Qwen
如何基于vllm0.9.2-ubuntu22.04-dtk25.04-das1.6-py3.10-20250916-rc2或类似镜像,自行升级python版本及pytorch等库,并在升级完成后仍然能成功使用DCU
2025-10-16 09:34:35
151
Qwen3-Next-80B-A3B-Instruct (https://www.modelscope.cn/models/Qwen/Qwen3-Next-80B-A3B-Instruct) 等模型使用了一些较新的transform架构。 所以,当我使用vllm0.9.2-ubuntu22.04-dtk25.04-das1.6-py3.10-20250916-rc2这个docker镜像启动的时候,会报错需要升级pytorch。 请问,如何基于vllm0.9.2-ubuntu22.04-dtk25.04-das1.6-py3.10-20250916-rc2或类似镜像,自行升级python版本及pytorch等库,并在升级完成后仍然能成功使用DCU。
全部评论(8)
只看楼主
R
renzhc
1楼
qwen3-next依赖较新的vllm版本,需等待完成DCU对高版本vllm的适配,预计要到11月。
2025/10/16
C
codingmiao
回复 @renzhc
感谢,届时我只需要下载并运行一个新版本的vllm容器即可?还是需要更新宿主机上的驱动等?
2025/10/16
R
renzhc
回复 @codingmiao
届时会于光源提供新的镜像,基于新镜像创建容器即可,开发者社区里也会单独上传whl包,宿主机的驱动一般情况无需升级。
2025/10/16
张
张
回复 @renzhc
请问下这个0.9.2的10.04更新的镜像版本在社区看大小只有8.6G,我pull下来有33G,这个正常么?
2025/10/20
全部7条回复
没有更多内容了
--
楼主
Level.6
0 帖子
楼主热帖
暂无数据