2
框架组件
提问帖
已解决
新人贴
请问K100能否部署qwen和deepseek?
2026-04-07 22:14:04
200
1. 想部署70B的qwen和deepseek, 请问K100是否支持? 非K100AI. 2. K100和K100AI部署本地大模型哪个性能更好?
全部评论（9）
只看楼主
L
lim
2楼
可以尝试用一下vllm0.8.5版本镜像 仅支持dense模型
4/8
乔
乔
回复 @lim
请问ollama是否支持？
4/13
明
明
回复 @乔
求教，我该怎么做，是k100，不是ai版，想部署个小模型，给单位交差，现在不知道怎么弄
9/5
明
明
回复 @lim
我也是新到一台机器，是k100（标准版）的，现在不知道怎么部署，求教大神
9/5
全部7条回复
L
lim
1楼
K100AI支持011版本 性能会好点
4/8
没有更多内容了
--
楼主
Level.3
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据