0
4
0
0
使用docker运行chatglm模型时推理出错
2024-06-28 11:50:55
90
如题，我根据教程步骤构建了包含chatglm-6b的镜像，在运行推理demo程序时发生报错如下图所示：
想知道这是什么原因引起的，是版本不匹配还是有什么其他要注意的问题
--
楼主
0 点赞
0 帖子
楼主热帖
暂无数据常见问题新帖
暂无数据如题，我根据教程步骤构建了包含chatglm-6b的镜像，在运行推理demo程序时发生报错如下图所示：
想知道这是什么原因引起的，是版本不匹配还是有什么其他要注意的问题
暂无数据 暂无数据
您好，请问您运行环境的DCU类型是K100嘛，如果是K100的话，需要配套使用DTK-23.10及以上版本。DTK-24.04.1已于6月初发布，建议您使用最新的DTK-24.04.1版本。
取包地址：https://download.sourcefind.cn:65024/1/main/DTK-24.04.1