第三方模型(Third-party Models)¶
第三方模型,是指集成至 DeepExtension 的外部模型,包括像 阿里百炼、硅基流动、DeepSeek 等平台的在线服务,或通过 API 可访问的本地部署模型。这些模型是 DeepExtension 工作流中的关键组成部分,可用于推理、评估和嵌入任务。
为什么第三方模型很重要¶
第三方模型已深度集成至 DeepExtension 的各个功能模块中:
-
在 DeepText 中,可以微调模型或本地适配器与公共 API(如 GPT-4)进行比较,还可以测试外部模型在结合 知识库 或 系统提示词 时的行为。
-
在 知识库(Knowledge Base) 中,必须先将嵌入模型注册为第三方模型,才能用于上传文档的向量化处理。
-
在 模型评估(Model Assessment) 中,可以将任意第三方模型作为 候选模型 或 评估模型(Judge) 使用,以实现丰富的对比和评估场景。
由于DeepExtension 本身并不直接托管或服务模型,所以即使是本地部署的模型(例如运行在局域网中的模型或容器端点),也必须注册为第三方模型。
添加新模型¶
添加一个新的第三方模型步骤如下:
- 点击 “添加新模型”
- 填写下面表格中的参数
- 点击 “确定” 添加模型
- 点击 “测试连接” 以验证配置是否有效
| 字段名 | 描述 |
|---|---|
| Provider(提供方) | 模型服务商(如 硅基流动、阿里云百炼、黑森林实验室、自定义等) |
| Model Type(模型类型) | text(文本生成)或 embedding(向量输出) |
| Model Name(模型名称) | 模型的精确名称(如 gpt-4,text-embedding-ada-002) |
| API Address(API 地址) | 模型服务的完整 API 端点 URL |
| API Key(API 密钥) | 访问该模型所需的身份认证密钥或 Token |
| Description(描述) | 可选备注,用于文档记录或使用说明 |
| Use Privately(私有使用) | 启用后,该模型仅对你本人可见和使用(默认:否) |
编辑已存在的模型¶
更新模型配置步骤如下:
- 点击目标模型右侧的 “编辑”
- 可修改以下内容:
- API 地址
- API 密钥
- 备注说明
- 私有使用设置(切换“Use Privately”选项)
- 保存更改后立即生效。
DeepExtension — 无论模型部署在哪里,都可无缝集成