Z100也可以做推理的，我们用ollama和vllm框架都做过测试的。只是要注意目前z100最高支持vllm0.5.0版本，下载镜像或whl的时候请注意版本
0
1
0
0
标题
2025-02-12 20:07:08
133
请问：海光Z100卡可以用来做AI推理吗？
全部评论（2）
只看楼主
H
2025/2/13
没有更多内容了
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据请问：海光Z100卡可以用来做AI推理吗？
暂无数据 暂无数据