机器环境为Z100+PY3.10+DTK2504。
浏览论坛发现Z100只支持Flash Attention2.0.4,在此下载https://download.sourcefind.cn:65024/4/main/flash_attn/DAS1.2,而2.0.4的DCU版flash attention只支持torch2.1+dtk24043。目前Gitlab的Ktransformers V0.3.1需要torch2.4.1+dtk2504才能编译安装,显然在安装dtk2504+torch2.4.1后,再安装Flash attention2.0.4-torch2.1-dtk24043就会出问题,导致KT无法使用flash attention。
那么是否存在支持torch2.4.1+dtk2504或者更新torch+dtk版本的flash attention?
作为普通的Z100用户是否可以自行编译安装flash attention?