2
DeepSeek
K100_aI可以起ollama服务，但run的时候报错 deepseek distll32B
2025-02-19 15:23:05
168

Error: llama runner process has terminated: error:Could not initialize Tensile host: No devices found

attachmentId-image.png

全部评论（5）
只看楼主
X
xingh
1楼
请问使用的什么镜像
2025/2/19
索
索大喝旺仔
回复 @xingh
完全参考光源R1_Ollama的教程，编译时中间因为网络问题 重新make clean后重新编过。仍然会有这个错误。
2025/2/19
X
xingh
回复 @xingh
输入hy-smi可以查看卡吗，如果可以，尝试调用torch，打印torch.cuda.is_available()看看是否报错
2025/2/20
索
索大喝旺仔
回复 @xingh

晚点我试试看，不过我重新用了一个编译好的ollama镜像，发现了一个很神奇的点就是：

原本的环境变量export HSA_OVERRIDE_GFX_VERSION=gfx928 一设置 torch.cuda.is_available()就变成false了，技术同事排查之后发现要写成

export HSA_OVERRIDE_GFX_VERSION=9.2.8这样就可以了
2025/2/20
全部4条回复
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据