DeepSeek
DeepSeek-R1_ollama
2025-05-16 10:23:47
225
export HSA_OVERRIDE_GFX_VERSION=9.2.8
export ROCR_VISIBLE_DEVICES=0
./ollama serve

是不是每次运行ollama时,都要执行上面两个export呢?
我在运行ollama后,查看hy-smi时,占用率都是0。cpu占用率很高。

attachmentId-image.png

全部评论(8)
只看楼主
L
liumg
3楼

你本身有个ollama服务没有关闭(CPU版的),一直占用着这个端口,导致你刚才的server启动失败

2025/5/16
L
liumg
回复 @liumg
之前那个主要是没有加那两个环境变量,导致没有调用DCU
2025/5/16
C
changhl
2楼

老师,您可以检查下ollama的编译目录下:是否存在linux-amd64的编译结果目录。

正常情况下:ollama编译后会生成两个目录:cpu,dcu相关的编译文件。
2025/5/16
龙
龙~~~
回复 @changhl
您好,有具体的目录名称或是文件名称么?
2025/5/16
W
wangwei
1楼
实时监控:watch -n 1 rocm-smi(或者hy-smi),一直没占用?执行完 ollama run也没占用?
2025/5/16
龙
龙~~~
回复 @wangwei
嗯 没动弹
2025/5/16
龙
龙~~~
回复 @wangwei

是不是我获取的项目代码不对

我是麒麟v10,sp3系统,dtk-24.04.3,

项目代码应该获取那个呢?

git clone -b 0.5.7 http://developer.sourcefind.cn/codes/OpenDAS/ollama.git

还是,手册上不一样

git clone -b 0.5.7+dtk24.03 http://developer.sourcefind.cn/codes/OpenDAS/ollama.git --depth=1

2025/5/16
W
wangwei
回复 @wangwei
另起终端进入容器,执行ollama run之前也设置一下
2025/5/16
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据