1
框架组件
标题
2025-08-21 16:55:25
100

K100-AI支持Sglang模型推理吗？

 sglang:v0.4.9.post6 

 

全部评论（3）
只看楼主
网
网友T0KRfU
2楼
同问，我简单测试了下是不可以的
2025/8/27
网
网友T0KRfU
回复 @网友T0KRfU
不排除我测试的问题
2025/8/27
Z
zhaomy
1楼
指定用这个版本吗？sglang推理性能不会太好，比较推荐vllm
2025/8/22
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据
常见问题新帖
暂无数据