1
框架组件
Z100L适配的Flash Attention为2.0.4,只支持torch2.1,请问是否存在支持torch2.4的FA,从而安装KT V0.3.1?DCU版的Flash Attention是否支持源代码编译?
2025-09-16 16:57:36
240
机器环境为Z100+PY3.10+DTK2504。 浏览论坛发现Z100只支持Flash Attention2.0.4,在此下载https://download.sourcefind.cn:65024/4/main/flash_attn/DAS1.2,而2.0.4的DCU版flash attention只支持torch2.1+dtk24043。目前Gitlab的Ktransformers V0.3.1需要torch2.4.1+dtk2504才能编译安装,显然在安装dtk2504+torch2.4.1后,再安装Flash attention2.0.4-torch2.1-dtk24043就会出问题,导致KT无法使用flash attention。 那么是否存在支持torch2.4.1+dtk2504或者更新torch+dtk版本的flash attention? 作为普通的Z100用户是否可以自行编译安装flash attention?
全部评论(3)
只看楼主
X
xingh
1楼
试试das1.6:https://download.sourcefind.cn:65024/4/main/flash_attn/DAS1.6
2025/9/16
东
东风
回复 @xingh
这个是FA2.6版本了,这里https://forum.sourcefind.cn/thread/1323 的第二条,明确说了Z100不支持2.6.1,只支持2.0.4
2025/9/16
X
xingh
回复 @东风
可以用这个包编译安装:链接: https://pan.baidu.com/s/1Y2D9Ksexi7k0V2-cPgPVmQ 提取码: 5ne7
2025/9/18
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据