1
运行时
官方VLLM V0.11.2版本什么时候可以支持
2025-12-05 09:39:14
158
官方VLLM V0.11.2版本什么时候可以支持,有没有大概的时间
全部评论(8)
只看楼主
樱
樱桃大球球
2楼
在这里似乎看到了版本是0.11.0 https://developer.sourcefind.cn/modelzoo/list/minimax-m2_vllm/detail?post_id=66b4acaf-cc26-11f0-a654-0242ac150003 容器地址:image.sourcefind.cn:5000/dcu/admin/base/custom:vllm-ubuntu22.04-dtk25.04.2-py3.10-minimax-m2 我没有试过是否可行,仅供参考
2025/12/10
C
codingmiao
回复 @樱桃大球球
试了一下这个容器,确实是0.11,qwen3 30b a3b这个模型速度有明显提升,且这个帖子里提到的精度问题有明显改善https://forum.sourcefind.cn/thread/2b444081-c9e0-11f0-9b60-0242ac150003。 但是qwen3 next还是跑不起来。
2025/12/19
M
maming
回复 @codingmiao
qwen3 next系列现在已经支持,麻烦您等待下vllm0.11的正式发版
2025/12/19
Hikafeng
回复 @maming
不会要跳票到明年了吧
2025/12/25
全部4条回复
Y
yanzy
1楼
现在集中在0.11版本的测试上,稳定后会逐步推进对后续小版本的兼容性支持:fendou:emoji
2025/12/5
Hikafeng
回复 @yanzy
能不能先放出来测试版,大版本已经半年没更新了,很多新模型都部署不了。
2025/12/5
网友liyl-06
回复 @yanzy
期待新版本:fendou:emoji
2025/12/9
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据