5
模型应用
麒麟V10 aarch64服务器+DCU K100_AI如何适配torch
2025-06-11 13:37:24
171

1、标题

麒麟V10 aarch64服务器+DCU K100_AI如何适配torch。

2、内容
操作系统版本:麒麟V10 aarch64服务器
DTK版本:DTK24.04.1
DCU类型:K100_AI
异常描述:我想基于

attachmentId-image.png

这里的官方教程,适配qwen2.5模型,但是在我从官方AI依赖找适配的torch版本时,全是x86_64的版本,没能找到aarch64的版本:如图:

attachmentId-image.png

请问,有大佬适配过吗,非常感谢!

全部评论(5)
只看楼主
Z
zc
1楼
你好,暂时我们的torch不支持arm的
2025/6/11
网
网友5XxjNV
回复 @zc
您好,那我们现在的服务器环境麒麟V10aarch64+DCU K100_AI能够支持qwen模型的部署吗
2025/6/11
Z
zc
回复 @zc
你好,部署不了qwen模型
2025/6/11
网
网友5XxjNV
回复 @zc
DCU能够执行安装CUDA驱动吗,我看aarch64+cuda的方式nvivida是适配的,如果可以的话是不是可以变相部署呢
2025/6/11
全部4条回复
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据