光合开发者社区-论坛

Qwen

提问帖

有回复

新人贴

k-100AI怎么部署qwen3-asr模型

2026-04-28 14:46:53

229

如何在k-100算力上部署qwen3-asr模型呢？使用了镜像harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm0.15.1-ubuntu22.04-dtk26.04-0130-py3.10-20260220和harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm018-ubuntu22.04-dtk26.04-gemma4-0413都没有成功，求指导？

https://developer.sourcefind.cn/modelzoo/list/qwen3-asr_pytorch/detail?post_id=9c9729d1-1d1d-11f1-91be-0242ac150003

我用这个能跑通，wiki里给的是短音频的例子，但是长音频的识别有问题，90分钟的音频直接跑会卡住（有显存占用但是GPU使用率为0），需要改asr库的代码配置把切分音频的时长改短一点比如5分钟之类的，但是还是有问题：环境噪音会识别成一连串的”嗯“然后耗干输出token的额度，或者视频中间的同一段话的文字重复输出好几遍。。。总之不太能实用