4
其他
提问帖
已解决
新人贴
[求助] 部署本地大模型(编程辅助):Ubuntu 22.04 + K100_AI*8 + DTK25.04 环境配置咨询
2026-05-27 11:53:38
162
大家好,想在本地部署大模型,主要用于编程,目前在这里找到了包: https://developer.sourcefind.cn/servicelist/detail?post_id=a053d44c-b3c7-11f0-9a0f-acde48001122&active=TagDownload,docker pull harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm018-ubuntu22.04-dtk26.04-gemma4-0413-k100ai 如下问题希望能得到指点: 1,选择的包是否适配我的环境 2,启动方法是什么
全部评论(3)
只看楼主
L
liumg
1楼
https://developer.sourcefind.cn/modelzoo 这有模型可以选择
5/27
小
小鱼
回复 @liumg
我找到了这个镜像:docker pull harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm018-ubuntu22.04-dtk26.04-qwen3.6-20260423,请问当前我的DTK 版本是25.04,是否需要升级到镜像对应的26.04版本?具体的升级方法帮忙提供一下

5/27
L
liumg
回复 @小鱼
镜像中的dtk不影响你物理机的版本
5/29
没有更多内容了
--
楼主
Level.3
0 帖子
楼主热帖
暂无数据