1
模型应用
dtk-2404.2 K100AI 使用chai_lab 计算时报错 RuntimeError: USE_MEM_EFF_ATTENTION was not enabled for build.
2024-10-21 11:07:36
122

环境搭建如下
镜像:jupyterlab-pytorch:2.3.0-ubuntu22.04-dtk24.04.2-py3.10-devel

git clone https://github.com/chaidiscovery/chai-lab.git

#注释掉 torch 和transformes
pip install -r requirements.in

#chai_lab 需要torch 2.3.1 ,但是社区没有发现此版本,故使用2.3.0
pip install chai_lab

pip install triton==2.1.0

pip install torch-2.3.0+das.opt1.dtk24042-cp310-cp310-manylinux_2_28_x86_64.whl

计算K100Ai报错如下,L20 计算正常
python examples/predict_structure.py

k100ai 计算报错

attachmentId-image.png

L20 计算日志

attachmentId-image.png

全部评论(11)
只看楼主
网
网友xN56tH
2楼
或者拉取docker pull image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.3.0-ubuntu22.04-dtk24.04.2-py3.10镜像进行测试
2024/10/21
J
jsyadmin
回复 @网友xN56tH
好的,我这边试一试这个镜像
2024/10/21
网
网友xN56tH
1楼
开发者社区上下载flash_attn更新使用基于torch2.3出的包:https://download.sourcefind.cn:65024/4/main/flash_attn
2024/10/21
J
jsyadmin
回复 @网友xN56tH
请问das.opt1 和 das.opt2 的区别是?
2024/10/21
R
renzhc
回复 @网友xN56tH
opt1对应torch2.1,opt2对应torch2.3,您可以选择opt2版本
2024/10/21
网
网友xN56tH
回复 @网友xN56tH
https://das.sourcefind.cn:55011/portal/#/home 可以在das 内容分发平台查看相关版本说明
2024/10/21
全部8条回复
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据