DCU 驱动与镜像内 DTK 的适配关系是海光生态中最核心的版本匹配问题。以下是基于官方文档和社区实践整理的完整说明。 ## 软件栈三层架构 海光 DCU 的软件栈分为三层，**自底向上必须严格版本对齐**： ``` ┌─────────────────────────────┐ │ DAS (AI框架: PyTorch/vLLM) │ ← 版本必须匹配 DTK ├─────────────────────────────┤ │ DTK (DCU Toolkit 开发工具包) │ ← 版本必须匹配驱动 ├─────────────────────────────┤ │ Driver (内核驱动 rock-x.x) │ ← 版本必须匹配硬件型号 └─────────────────────────────┘ ``` 任何一层版本错位，都可能出现"能启动但性能异常"或运行时报错。 ## 驱动与 DTK 版本对应关系 | 驱动版本 | 内核要求 | 适配 DTK 版本 | 支持硬件 | |---------|---------|-------------|---------| | rock-4.0 | 5.6.x | DTK 23.x | Z100/Z100L | | rock-5.2 | 5.16.x | DTK 24.x | Z100/Z100L | | rock-5.7 | 6.2.x | DTK 24.04.x | Z100/Z100L/K100 | | rock-6.3 | 6.3.x+ | **DTK 25.04 / 26.04** | K100-AI/BW100/BW1000/BW1100 | DTK 26.04 Release Note 中明确标注的推荐驱动为 **`rock-6.3.30-V1.4.1a`**。 https://download.sourcefind.cn:65024/file/1/DTK-26.04/Document/DTK%2026.04%20Release%20Note.pdf ## Docker 镜像场景下的适配逻辑 使用 Docker 镜像时，版本匹配关系如下： | 组件 | 来源 | 说明 | |------|------|------| | DTK 软件栈 | **镜像内预装** | 标签中的 `dtk26.04` 即镜像内 DTK 版本 | | vLLM/PyTorch | **镜像内预装** | 已与镜像内 DTK 版本对齐 | | DCU 驱动 + hyhal | **宿主机** | 通过 `-v /opt/hyhal:/opt/hyhal` 挂载 | | 内核驱动模块 | **宿主机** | 通过 `--device=/dev/kfd` 等映射 | 因此，**镜像内的 DTK 版本必须与宿主机驱动版本兼容**。 ## 示例：镜像 `vllm:0.18.1-ubuntu22.04-dtk26.04-py3.10` 的要求 该镜像内预装 DTK 26.04，宿主机需满足： | 条件 | 要求 | |------|------| | 驱动版本 | **rock-6.3.x** 系列（推荐 `rock-6.3.30-V1.4.1a` 或更新） | | 硬件型号 | K100-AI / BW100 / BW1000 / BW1100 | | 内核版本 | **6.3.x** 及以上 | | hyhal 版本 | 需与 rock-6.3 驱动匹配，不能过低 | ## 如何查看宿主机驱动版本 ```bash # 查看驱动版本 cat /proc/driver/hydcu/version # 旧版驱动 (hydcu) cat /proc/driver/hycu/version # 6.3+ 驱动 (hycu) # 查看 hyhal 信息 /opt/hyhal/bin/hy-smi # 查看内核版本 uname -r ``` ## 不兼容的典型表现 - `ImportError: librocm_smi64.so.2: cannot open shared object file` → 宿主机 hyhal 版本过低 - `torch.cuda.is_available()` 返回 False → 驱动与 DTK 版本不匹配 - 能启动但推理速度极低（如 0.x tok/s）→ 内核驱动、DTK、框架三者版本错位 - 容器启动后 `hy-smi` 无输出 → `/opt/hyhal` 未正确挂载或驱动版本不匹配 建议先通过 `hy-smi` 确认宿主机驱动状态，再选择与驱动版本匹配的镜像标签。 **参考链接** https://blog.csdn.net/adneavuilzwt/article/details/162724031 https://blog.csdn.net/qq_23625847/article/details/159507206