光合开发者社区-论坛

数学库

新人贴

sglang如何编译？

2026-02-28 14:50:45

354

如何自己编译sglang？ git clone -b v0.5.9 https://developer.sourcefind.cn/codes/OpenDAS/sglang 需要用户名和密码，用注册的用户名和密码登录，始终报用户密码错误

liumg

2楼

docker pull harbor.sourcefind.cn:5443/dcu/admin/base/custom:sglang0.5.7-ubuntu22.04-dtk26.04-0130-py3.10-20260212 这有一个，你试试呢

4/11

回复 @liumg

咱们没有更高版本的sglang吗？

4/12

liumg

回复 @xw

有0.6的，你关注下custom这个镜像库就行

4/25

王

王灏楠

回复 @liumg

启动模型的时候有报错，root@worker-0:~# python3 -m sglang.launch_server --model-path /model/DeepSeek-R1-Distill-Qwen-7B --trust-remote-code --tp 4

Traceback (most recent call last):

File "/usr/lib/python3.10/runpy.py", line 196, in _run_module_as_main

return _run_code(code, main_globals, None,

File "/usr/lib/python3.10/runpy.py", line 86, in _run_code

exec(code, run_globals)

File "/sglang/python/sglang/launch_server.py", line 7, in <module>

from sglang.srt.server_args import prepare_server_args

File "/sglang/python/sglang/srt/server_args.py", line 29, in <module>

from sglang.srt.connector import ConnectorType

File "/sglang/python/sglang/srt/connector/__init__.py", line 6, in <module>

from sglang.srt.connector.base_connector import (

File "/sglang/python/sglang/srt/connector/base_connector.py", line 10, in <module>

import torch

File "/usr/local/lib/python3.10/dist-packages/torch/__init__.py", line 368, in <module>

from torch._C import * # noqa: F403

ImportError: librocm_smi64.so.2: cannot open shared object file: No such file or directory 。是我的命令不对吗？用的异构加速卡1/16GB

5/20

全部4条回复

ANYA

1楼

您可以打开 https://developer.sourcefind.cn/codes/OpenDAS/sglang 链接，直接下载压缩包上传至服务器

若需要使用git clone的方式，请在上述链接的gitlab中重新查看账户信息或修改密码

3/2

回复 @ANYA

https://developer.sourcefind.cn/codes/OpenDAS/sglang这个链接根本就打不开，404错误

3/6

回复 @ANYA

gitlab中重新查看账户信息或修改密码后，依然提示用户密码错误

3/6