GPUStack(docker)部署本地模型的注意事项
·
如果GPUStack部署在docker内，尽管GPUStack的web界面的模型部署显示模型在var/...内部，但实际上路径是有问题的，真实路径应该在docker的卷下。
也就是说，如果本地存在一个模型，需要部署在GPUStack中，则需要在对应的docker目录下创建一个路径，将本地模型移进去（使用路径链接似乎GPUStack无法识别）
码道开发者社区，聚焦华为云码道 CodeArts 代码智能体，沉淀 Agent、Skill、鸿蒙开发实战内容，供开发者查阅资料、交流技术、分享工程实践
更多推荐
2
0- 0
已为社区贡献1条内容
所有评论(0)