1
4
1
1
模型应用
提问帖
有回复
新人贴
请教Z100L目前能用哪种方式部署大语言模型，哪个模型能真正应用起来。
2026-09-07 09:21:35
116
你好 请教下，我这边的环境是 使用32G Z100L计算卡，操作系统是opencloudOS 9.6 驱动rock-6.3.30-V1.4.1a.run DTK DTK-26.04-Opencloud9.4-x86\_64.tar.gz ，使用哪种方式部署语言大模型 可以，请赐教，十分感谢
Qwen3.5-122B-A10B
全部评论（3）
只看楼主
L
liumg
1楼
目前支持到vllm0.8.5，不过有开发者已经能跑qwen3.5 qwen3.6了 https://forum.sourcefind.cn/thread/c8916369-9ca9-11f1-a0b1-0242ac150003
9/15
L
Luxj
回复 @liumg
大神，你发这个链接和部署好像没啥关系啊
9/20
L
liumg
回复 @Luxj
我的意思是目前新模型社区上已经不支持了，如果想跑可以参考一些活跃的开发者他们自己适配的过程。
9/20
没有更多内容了
--
楼主
Level.2
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据