最新的是多少版本？18 还是 23？ 您两卡能跑出多少Token/s?

我的2卡情况：## vLLM-HCU 官方镜像部署诊断结果

### 关键发现

经过详细探查，`42.228.13.241:5000/jenkins/model_test_env/vllm:0.21.0-ubuntu22.04-dtk26.04-py3.10-20260624-2240` 镜像包含完整的海光 vLLM-HCU 生态：

| 组件 | 版本 |
|------|------|
| vLLM | 0.21.0+das.dtk2604 |
| vllm-hcu | 0.21.0+das.dtk2604 |
| PyTorch NCCL | 2.22.3 |
| DTK | 26.04 |
| hcu_ops | 编译原生库 (`.so`) |

**`vllm-hcu` 包含：**
- `torch.ops.hcu_ops.all_reduce()` — 海光自定义 all-reduce（预编译优化 kernel）
- `vllm_hcu.distributed.device_communicators.custom_all_reduce` — 替换 vLLM 默认实现
- `vllm-hcu-apply-patches` — 通过 monkey-patch 注入 vLLM
- Qwen3.5 模型补丁（`vllm__model_executor__models__qwen3_5.patch.py`）

### 阻塞问题

**DTK 26.04 的 NCCL/RCCL 在 K100 (gfx928) 上 `hipHostMalloc` segfault：**

```
ncclCommInitRank → ncclCudaHostCallocDebug → hipHostMalloc → Segfault
```

- PyTorch 内嵌 NCCL 2.22.3：`hipHostMalloc` segfault
- DTK 26.04 的 `/opt/dtk/lib/librccl.so`：同样 `hipHostMalloc` segfault
- 设置 `VLLM_NCCL_SO_PATH=/opt/dtk/lib/librccl.so` 生效但仍 segfault

**根本原因：** DTK 26.04 的 HIP 运行时 `hipHostMalloc` 在 K100 上不兼容。此镜像可能针对 gfx936/gfx938 构建，未适配 K100 (gfx928)。

### 解决路径（需决策）

1. **联系海光获取 K100 兼容镜像** — 询问是否有 DTK 25.04 版本的 vllm-hcu 包，或 DTK 26.04 的 K100 补丁
2. **混合 DTK 版本** — 在 DTK 25.04 基础镜像上安装 vllm + vllm-hcu Python 包，使用 DTK 25.04 的 RCCL（需验证兼容性）
3. **回退到已验证的 DTK 25.04 路径** — 使用 `image.sourcefind.cn:5000/dcu/admin/base/vllm:0.9.2-ubuntu22.04-dtk25.04.2-py3.10`（之前可以运行，但 ~210ms/次 all-reduce）

### 已修复的辅助问题

在探查过程中修复了：
- [`lightop/__init__.py`](qwen36-deploy/deploy_vllm_hcu.sh) ROCM_HOME 环境变量兼容
- [`/opt/dtk/.hyhal/rocm_smi/lib/`](qwen36-deploy/deploy_vllm_hcu.sh) LD_LIBRARY_PATH 缺失
- 镜像需宿主机 `/opt/hyhal` 挂载（HSA 运行时）

部署脚本已保存在 [`qwen36-deploy/deploy_vllm_hcu.sh`](qwen36-deploy/deploy_vllm_hcu.sh)，解决 DTK 兼容性后可直接使用。