llama.cpp的话可以直接按照GitHub仓库里的[说明](https://github.com/ggml-org/llama.cpp/blob/master/docs/build.md#hip) 来编译ROCm版就行，基本不会有很严重的报错，编译完是可以在K100上跑的，前几天试过DeepSeek R1、DeepSeek Coder V2都没问题。python接口没有用过，不过llama.cpp都能成功跑起来，python接口应该没什么问题