0
6
0
2
框架组件
新人贴
vllm镜像是否考虑提供国产发行版的版本?
2025-12-09 17:39:23
136
操作
我们碰到的一些场景下,内控审计要求docker内使用指定国产发行版(如麒麟v10)。vllm是否会基于这些发行版发布Docker镜像呢? 另外查阅论坛其它帖子得知,DCU上的vllm不能直接使用开源的vllm源码来构建,那么当官方不提供这类个性化镜像时,是否有其它路径开发者能自行构建? 另:如实在没办法部署vllm,如果想用qwen系列(qwen2.5、qwen3、qwen2.5-vl、qwen3-vl)模型,并提供HTTP OpenAI API服务,还有哪些可代替方法?
全部评论(5)
只看楼主
家
家
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
家香
楼主
只看此人
1楼
最后在麒麟那边找到一个0.8.5的版本
cr.kylinos.cn/basekylin/vllm:0.8.5-dtk2504.1-ky11_2503
2025/12/11
赞
回复
@圈友
暂无数据
尚未选择
发送
网
网
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
网友6f7rQI
回复
@家香
https://developer.sourcefind.cn/servicelist/detail?post_id=a053d44c-b3c7-11f0-9a0f-acde48001122&active=TagDownload 看下这里
2025/12/11
赞
回复
@圈友
暂无数据
尚未选择
发送
网
网
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
网友6f7rQI
回复
@网友6f7rQI
2025/12/11
赞
回复
@圈友
暂无数据
尚未选择
发送
网
网
这个人很懒,什么也没留下~
0
发帖总数
0
点赞
0
已关注
0
粉丝
关注
私信
屏蔽
网友6f7rQI
回复
@家香
如果镜像用着有问题,欢迎在评论中反馈
2025/12/11
赞
回复
@圈友
暂无数据
尚未选择
发送
全部4条回复
没有更多内容了
--
楼主
0
点赞
0
帖子
关注
私信
楼主热帖
暂无数据
常见问题新帖
暂无数据