DeepSeek
新人贴
MIOpen Error(onnxruntime调用模型时)
2026-01-15 16:31:55
217
问题描述: 压测onnxruntime在推理模型,当模型不变时,压测无问题(20并发) 当推理不同模型时(尽管并发只有2个,一个调用A模型,另一个调用B模型),就会出现下列问题 报错信息: ![attachmentId-image.png](/api-forum/file/Redirect?path=forum/boencomming/1768465750712/image.png) 宿主机环境:DTK25.04 ![attachmentId-image.png](/api-forum/file/Redirect?path=forum/boencomming/1768465461432/image.png) 推理容器环境: onnxruntime:Version: 1.15.0+das.opt1.dtk2504 容器DTK25.04 望解答,谢谢
全部评论(12)
只看楼主
波
波恩来了
楼主
2楼
https://github.com/microsoft/onnxruntime/issues/21311
这是我在onnxruntime下发现的bug,在我使用的压测环境下, 可能导致算法缓存被清空从而引发MIOpen Error,不知道咱们这边的是否有相应的版本已经做了修复,或者如何禁用掉缓存
1/16
C
changhl
1楼
onnxruntime 1.19.2下载路径:https://das.sourcefind.cn:55011/portal/#/installation?id=6cc93b4e-6b67-11ef-bf92-005056904552&type=frame
笔误打错了。
使用dtk25042的镜像哈
1/15
波
波恩来了
回复 @changhl
好的,感谢,我试试,对了,1.19.2的DTK25041的我直接安装后报错这个:
attachmentId-image.png
需要文字版可以告诉我
1/15
C
changhl
回复 @波恩来了
安装后执行报错么?
对齐一下环境哈:镜像-docker pull harbor.sourcefind.cn:5443/dcu/admin/base/vllm:0.9.2-ubuntu22.04-dtk25.04.2-1226-das1.7-py3.10-20251226; onnxruntime1.19.2+das.opt1.dtk25042
1/15
牧
牧苍山
回复 @changhl
大佬有没有dkt25.04.2的安装包啊,重做镜像太大了,传到生产环境有点耗时
1/15
全部10条回复
没有更多内容了
--
楼主
Level.3
0 帖子
楼主热帖
暂无数据