用vllm跑的什么模型?也可以在光源上拉镜像测试:docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.3.0-ubuntu22.04-dtk24.04.3-py3.10
算力平台打包镜像,DCU服务器无法启动,以下是参数信息。报错截图在附件
算力平台容器内:
rocm-smi --version
Version 1.6.0 (Sep 5 2024 06:09:52)
没有cat /opt/rocm/.info/version
可以正常运行。
DCU服务器:
rocm-smi --version
Version 1.6.0 (Sep 5 2024 06:09:52)
cat /opt/rocm/.info/version
5.7.1-V1.0.2 20240510-072057
相同:
triton 2.1.0+das.opt1.dtk24042
torch 2.3.0+das.opt1.dtk24042
torch.version.HIP version 5.7.24311 (ROCm mapping unknown)




暂无数据