1
1
其他
标题
2025-08-12 16:59:19
67

前一阵 OpenAI 发布了开源模型 gpt-oss-120b,社区反响不错,有没有在 K100 的显卡上做适配?

https://openai.com/index/introducing-gpt-oss/,Introducing gpt-oss。
https://huggingface.co/openai/gpt-oss-120b,hugging face文档。

全部评论(2)
只看楼主
M
Mr Liu
2楼
K100-AI不支持呢,这两模型都是MXFP4量化的,目前海光最高支持的VLLM版本0.9.2不支持
2025/12/25
L
liumg
1楼
K100-AI上可以试一下,应该支持
2025/8/14
没有更多内容了
--
楼主
Level.1
0 帖子
楼主热帖
暂无数据