软件版本是:deepspeed0.12.3+diffusers0.22.3+triton2.1.0
首先,我用deepspeed0.12.3+diffusers0.22.3+triton2.1.0在4090上能够成功推理 但在超算上,我用的是社区下载的deepspeed和triton包,却报了triton错误。 我不太清楚是deepspeed还是triton打包时候不兼容,这两个包其一肯定是有问题的。
帮忙打印一下环境信息:
deepspeed 0.12.3+git299681e.abi0.dtk2310.torch2.1.0a0
triton 2.1.0
帮忙打印一下环境信息:
pip list | grep -E “deepspeed | triton”