1
Qwen
Triton编译器与ROCm 5.7.1环境不兼容
2025-03-10 19:43:32
141

算力平台打包镜像,DCU服务器无法启动,以下是参数信息。报错截图在附件

算力平台容器内:
rocm-smi --version
Version 1.6.0 (Sep 5 2024 06:09:52)
没有cat /opt/rocm/.info/version
可以正常运行。

DCU服务器:
rocm-smi --version
Version 1.6.0 (Sep 5 2024 06:09:52)
cat /opt/rocm/.info/version
5.7.1-V1.0.2 20240510-072057

相同:
triton 2.1.0+das.opt1.dtk24042
torch 2.3.0+das.opt1.dtk24042
torch.version.HIP version 5.7.24311 (ROCm mapping unknown)

attachmentId-image.png

attachmentId-image.png

attachmentId-image.png

全部评论(2)
只看楼主
网
网友xN56tH
1楼
用vllm跑的什么模型?也可以在光源上拉镜像测试:docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.3.0-ubuntu22.04-dtk24.04.3-py3.10
2025/3/11
IROAM
回复 @网友xN56tH
没有链接公网的DCU只能租算力平台的进行适配。跑qwen2.5系列和deepseek蒸馏模型。
2025/3/12
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据