1
数学库
提问帖
K100AI如何部署Qwen3-Omni-30B-A3B-Instruct
2026-07-09 15:50:12
74
现在用的是Qwen3-30B-A3B-Instruct,请问K100AI支持Qwen3-Omni-30B-A3B-Instruct吗?有相关镜像或者教程吗
全部评论(2)
只看楼主
网
网友P2hf1T
楼主
2楼
 官方有VLLM-Omni + DTK 的定制镜像吗?
7/9
网
网友P2hf1T
楼主
1楼
root@cfa9d1e944c9:/workspace# vllm -v

INFO 07-09 15:37:44 [__init__.py:245] Automatically detected platform rocm.

0.9.2+das.opt1.rc2.51af08a.dtk25041

目前的镜像image.sourcefind.cn:5000/dcu/admin/base/vllm:0.9.2-ubuntu22.04-dtk25.04.1-rc5-rocblas104381-0915-das1.6-py3.10-20250916-rc2-ds3.2

7/9
没有更多内容了
--
楼主
Level.2
0 帖子
楼主热帖
暂无数据