10
DeepSeek
Deepseek-R1 ollama 未使用GPU，怎么解决
2025-06-24 21:44:16
141

按照https://sourcefind.cn/#/model-zoo/1888167889015537665步骤，进行操作，发现启动后未使用GPU

dtk版本：2404
DUC 是K100ai

attachmentId-image.png

并且 不支持

attachmentId-image.png

全部评论（6）
只看楼主
网
网友TxGDSQ
2楼

ollama要升级，最多是支持0.6.7，不能直接用ROCM的版本，要单独编译0.6.7 版本的OLLAMA

这个坑我帮你踩过了

要是您能克服，请帮助我:aini:emoji
2025/6/26
网
网友tscL0p
回复 @网友TxGDSQ

您那边能正常通过ollama部署的模型能使用GPU吗

2025/6/27
网
网友TxGDSQ
回复 @网友TxGDSQ
通过Docker编译出来的版本可以
2025/6/27
网
网友tscL0p
回复 @网友TxGDSQ
您使用的哪个镜像呢
2025/6/28
W
wangs
1楼
看报错的信息ollama的版本太低，不支持qwen3:4b-fp16； vllm推理框架目前支持qwen3系列，可以尝试使用;
2025/6/25
W
wangs
回复 @wangs

https://developer.sourcefind.cn/codes/OpenDAS/ollama/-/tree/0.6.7 可以使用最新的ollama分支

2025/6/25
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据