您好,这里有qwen3_pytorch的推理方法,请参考https://sourcefind.cn/#/model-zoo/1917109425908350977。Z100L最多支持到vllm0.5,镜像下载docker pull image.sourcefind.cn:5000/dcu/admin/base/custom:vllm0.5.0-dtk24.04.1-ubuntu20.04-py310-zk-v1-deploy
Z100L怎么部署qwen3-8B模型?找了半天没找到镜像和教程,有哪位大神成功部署过?感谢!

暂无数据