Qwen3 k100ai如何部署
有相关的镜像吗?
您好,参考这个网站采用docker部署vllm0.8.4-ubuntu22.04-dtk25.04-rc7-das1.5-py3.10-20250430-dev-qwen3-only,进入容器启动vllm时报错,请问下是什么原因导致的呢
vllm启动命令:python -m vllm.entrypoints.openai.api_server --model /deepseek_workspace --served-model-name Qwen3 --enforce-eager --dtype float16 --trust-remote-code