解决方案:
可能的原因很多,可参考以下解决方案尝试解决:
1.检查vbios版本,升级vbios (液冷卡用 hpc 开头的vbios,风冷卡用PCIE开头的vbios)
2.尝试更改dtype,fp16\float32等进行更改。
3.安装指定的flash_attn:https://forum.sourcefind.cn/thread/515