部署工具配置¶
部署工具配置(Deployment Tool Configuration) 模块允许管理员在 DeepExtension 中设置和管理用于部署 完整模型(Complete Models) 的运行环境。该配置对于与本地部署工具(如 Ollama)的无缝集成至关重要,未来还计划支持更多工具,如 LM Studio。
概览¶
此配置确保 DeepExtension 能够正确地与部署服务(例如 Ollama)通信,以启动和管理模型部署任务。
添加部署环境¶
要配置部署环境,请执行以下操作:
- 点击 “添加部署环境(Add Deployment Environment)”
- 输入以下信息:
- 环境名称(Environment Name):便于识别的环境名称
- 地址(Address):部署工具所在机器的 IP 地址或主机名
- 端口号(Port Number):部署服务监听的端口
保存后,DeepExtension 会在模型部署时使用该配置。
当前仅支持 一个部署环境。如果添加多个环境,系统将默认使用 最后一个配置项。
注意事项¶
- 此模块对确保与本地部署服务(如 Ollama)的正确集成非常关键。
- 如果在未配置部署环境的情况下尝试部署模型,系统将提示先完成此配置。
DeepExtension 将持续扩展对更多部署工具和环境的支持,以增强平台的灵活性与兼容性。