## 具体信息如下：INT8 双卡 TP=2 测试结论 **shm_broadcast 问题依然存在**，即使： - 两张 K100 DCU 都完全空闲（0% VRAM） - 使用 INT8 量化模型（显存需求减半） - 使用海光提供的 vLLM 0.18.1 官方镜像 ### 测试矩阵（完整） | 模型 | 精度 | 镜像 | TP | GPU 状态 | 结果 | | ----------- | ---- | -------------- | -- | -------------- | ---------------- | | Qwen3.6-27B | BF16 | vLLM 0.20.2rc1 | 1 | GPU 0 空闲 | ✅ 5.8 tok/s | | Qwen3.6-27B | INT8 | vLLM 0.18.1 | 1 | GPU 1 部分占用 | ✅ 5.2 tok/s | | Qwen3.6-27B | BF16 | vLLM 0.20.2rc1 | 2 | 双卡空闲 | ❌ shm_broadcast | | Qwen3.6-27B | INT8 | vLLM 0.18.1 | 2 | 双卡空闲 | ❌ shm_broadcast | ### 根因确认 `shm_broadcast` 超时是海光 K100 DCU 的 **DUNCCL 跨卡通信基础设施问题**，与以下因素无关： - vLLM 版本（0.18.1 / 0.20.0 / 0.20.2rc1 都失败） - 模型精度（BF16 / INT8 都失败） - GPU 显存占用（双卡空闲也失败） - 基础镜像（DTK 26.04 不同镜像都失败） ### 当前可用配置 单卡 TP=1 已稳定运行，建议继续使用。如需双卡，需要海光提供 DTK/DUNCCL 修复。 shm_broadcast 问题如何解决