模型应用
提问帖
有回复
新人贴
K100_AI部署重排序和嵌入模型
2026-04-28 14:02:38
104
想问一下各位大佬，K100_AI上vllm0.9.2镜像版本，支持部署Qwen3-Embedding-8B/Qwen3-Reranker-8B 吗
全部评论（3）
只看楼主
_
_mkw8ggr59w1l
1楼
Qwen3-Embedding-8B试过可以
4/28
Z
zc666
回复 @_mkw8ggr59w1l
大佬 两张k100_ai 怎么指定第二张卡
4/28
_
_mkw8ggr59w1l
回复 @zc666
-e HIP_VISIBLE_DEVICES=1
4/28
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据