4
框架组件
使用DTK25.04+Z100,OpenDAS仓库的Ollama 0.6.7在cmake -B build时无法找到HIP编译器
2025-06-08 17:59:40
171

已经正确安装了DTK,DTK环境变量已经正确设置,pytorch也可以检测到DCU。我从这里下载的Ollama https://developer.sourcefind.cn/codes/OpenDAS/ollama/-/tree/0.6.7,下载后,严格按照说明进行安装,首先安装Go,然后在根目录执行cmake -B build,当运行到Looking for a HIP compiler时,程序提示NOT FOUND,导致后续安装的ollama只能调用CPU。我又修改cmake命令为 cmake -B build -D CMAKE_HIP_COMPILER=/opt/dtk/llvm/bin/clang++,现在可以找到HIP compiler了,显示版本为Clang 15.0.0,但是报这些错误:

全部评论(4)
只看楼主
Z
zc
1楼
是直接在宿主机上进行ollama部署的吗?可以尝试按照https://developer.sourcefind.cn/codes/OpenDAS/ollama/-/tree/0.6.7中创建docker容器的方式进行部署,如若容器中问题依旧存在,可能是宿主机上环境或者驱动等存在问题
2025/6/9
东
东风
回复 @zc
是在容器里面部署的,我们这边用的是曙光的计算平台,无法自己部署容器,必须在平台提供的容器的基础上进行部署。我这边目前已经安装了好了DTK25.04,pytorch也能识别到Z100 DCU,/opt/dtk目录下的env.sh也没有修改过
2025/6/9
东
东风
回复 @zc
这个容器没有code-server,含code-server的容器却没有fixpy后缀,不知道这个fixpy后缀到底修改了什么,我用的原版的DTK-25.04,Ollama 0.6.7就没法顺利安装,OpenDAS提供的ktransformers v0.3.1也是在编译的时候报错。这海光卡到底是怎么回事,论坛也没有专业人员来修,花了一天时间光给他们debug了,妈的为什么还要用户给debug?!品控太烂了:tu:emoji:tu:emoji:tu:emoji
2025/6/9
东
东风
回复 @zc
问题解决了。原因在于我们的曙光平台只能让用户使用DCU容器,无法使用宿主机自己开容器,而容器启动时要默认挂载宿主机的/opt/hyhal目录(因为如果要删除这个目录则显示资源忙,无法删除),这个目录是空目录,虽然在平时使用pytorch时这并不影响,但是ollama就怎么也编译不过,后来自行搜索hsa相关的头文件到底在dtk文件夹中的哪里出现过,然后发现主要是在/opt/dtk/.hyhal/include中,因此将/opt/dtk/.hyhal里面的所有内容拷贝到了/opt/hyhal下即解决了问题。。
2025/6/10
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据