请问是什么卡?用的vllm、DTK版本是多少?
启动vllm时报

命令是python -m vllm.entrypoints.openai.api_server --model /deepseek-ai --dtype auto --trust-remote-code --gpu-memory-utilization 0.92 --tensor-parallel-size 4 --max-num-seqs 32 --max-model-len 20000 --port 8000 --enforce-eage请问下怎么解决

暂无数据