1
1
1
Qwen
标题
2025-07-03 13:13:49
97

K100-AI是否能部署Qwen2-VL-72B大模型,如果可以的话 是不是用镜像仓提供的vllm镜像就可以

全部评论(5)
只看楼主
H
hcw
4楼
不用docker 能不能运行起来?
2025/10/11
H
hepj
3楼
最新的vllm0.8.5的镜像已经支持了这个模型的部署docker pull image.sourcefind.cn:5000/dcu/admin/base/vllm:0.8.5-ubuntu22.04-dtk25.04.1-rc5-das1.6-py3.10-20250724
2025/8/5
网
网友56s8vc
2楼
有vllm多卡部署Qwen2-VL的命令吗
2025/7/16
网
网友XS7Tuq
1楼
成功部署Qwen2.5 VL 32B,用transformers。
2025/7/4
S
Skipper
回复 @网友XS7Tuq
你好,没有用官方给的镜像吗
2025/7/7
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据