问题描述:
压测onnxruntime在推理模型,当模型不变时,压测无问题(20并发)
当推理不同模型时(尽管并发只有2个,一个调用A模型,另一个调用B模型),就会出现下列问题
报错信息:

宿主机环境:DTK25.04

推理容器环境:
onnxruntime:Version: 1.15.0+das.opt1.dtk2504
容器DTK25.04
望解答,谢谢
这是我在onnxruntime下发现的bug,在我使用的压测环境下, 可能导致算法缓存被清空从而引发MIOpen Error,不知道咱们这边的是否有相应的版本已经做了修复,或者如何禁用掉缓存
笔误打错了。
使用dtk25042的镜像哈