大家好,想在本地部署大模型,主要用于编程,目前在这里找到了包:
https://developer.sourcefind.cn/servicelist/detail?post_id=a053d44c-b3c7-11f0-9a0f-acde48001122&active=TagDownload,docker pull harbor.sourcefind.cn:5443/dcu/admin/base/custom:vllm018-ubuntu22.04-dtk26.04-gemma4-0413-k100ai
如下问题希望能得到指点:
1,选择的包是否适配我的环境
2,启动方法是什么