您好：根据报错复现且内部核对后，定位为flash-attn2.6.1不支持z100L；解决方案：您这边可以使用dtk24.04.1的镜像实现推理。可以参考该帖子对齐环境：https://forum.hpccube.com/thread/515
0
1
0
0
标题
2024-12-09 16:24:51
97
我在内网上传了镜像：
可以正常执行查询dcu命令，执行pytorch也能正常识别device：
但是运行部署命令报错，求助：
m命令：
报的错是invalid device，但是进去容器的时候显示是可以正常识别z100L的，
全部评论（3）
只看楼主
C
2024/12/10
C
好的，您注意一下帖子回复消息，我们内部验证后回复您
2024/12/9
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据