DeepSeek
标题
2025-03-17 11:06:03
90

镜像版本:image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.3.0-ubuntu22.04-dtk24.04.3-py3.10

问题描述:显存持续升高并溢出,指定显存占用为0.7也没有用,在低并发的情况下大约一周左右会溢出。

全部评论(8)
只看楼主
R
renzhc
2楼
另外确认一下用的镜像是哪个呢?看截图里是python3.11
2025/3/17
网
网友cIDxki
回复 @renzhc
image.sourcefind.cn:5000/dcu/admin/base/pytorch:2.3.0-ubuntu22.04-dtk24.04.3-py3.10用的是这个镜像,截图的报错是更换为这个镜像之前的镜像,版本为0.5.0,但是报错信息一样。
2025/3/21
R
renzhc
回复 @renzhc
同环境没能复现,检查下驱动和vbios版本吧,hy-smi -a | grep -i version看下驱动版本,hy-smi -v看下vbios版本。然后更新下最新的驱动和vbios看看呢?
2025/3/23
网
网友cIDxki
回复 @renzhc
方便给个联系方式吗,方便交流问题
2025/3/25
全部5条回复
R
renzhc
1楼
显存占用是随着请求不断增长吗?启动命令中--dtype设为float16试试还有没有问题
2025/3/17
网
网友cIDxki
回复 @renzhc
尝试了设置为float16,但依旧会不断增长。
2025/3/21
没有更多内容了
--
楼主
Level.4
0 帖子
楼主热帖
暂无数据