跳转至

第三方模型(Third-party Models)

第三方模型,是指集成至 DeepExtension 的外部模型,包括像 阿里百炼硅基流动DeepSeek 等平台的在线服务,或通过 API 可访问的本地部署模型。这些模型是 DeepExtension 工作流中的关键组成部分,可用于推理、评估和嵌入任务。


为什么第三方模型很重要

第三方模型已深度集成至 DeepExtension 的各个功能模块中:

  • DeepText 中,可以微调模型或本地适配器与公共 API(如 GPT-4)进行比较,还可以测试外部模型在结合 知识库系统提示词 时的行为。

  • 知识库(Knowledge Base) 中,必须先将嵌入模型注册为第三方模型,才能用于上传文档的向量化处理。

  • 模型评估(Model Assessment) 中,可以将任意第三方模型作为 候选模型评估模型(Judge) 使用,以实现丰富的对比和评估场景。

由于DeepExtension 本身并不直接托管或服务模型,所以即使是本地部署的模型(例如运行在局域网中的模型或容器端点),也必须注册为第三方模型。


添加新模型

添加一个新的第三方模型步骤如下:

  1. 点击 “添加新模型”
  2. 填写下面表格中的参数
  3. 点击 “确定” 添加模型
  4. 点击 “测试连接” 以验证配置是否有效
字段名 描述
Provider(提供方) 模型服务商(如 硅基流动、阿里云百炼、黑森林实验室、自定义等)
Model Type(模型类型) text(文本生成)或 embedding(向量输出)
Model Name(模型名称) 模型的精确名称(如 gpt-4text-embedding-ada-002
API Address(API 地址) 模型服务的完整 API 端点 URL
API Key(API 密钥) 访问该模型所需的身份认证密钥或 Token
Description(描述) 可选备注,用于文档记录或使用说明
Use Privately(私有使用) 启用后,该模型仅对你本人可见和使用(默认:否)

编辑已存在的模型

更新模型配置步骤如下:

  1. 点击目标模型右侧的 “编辑”
  2. 可修改以下内容:
    • API 地址
    • API 密钥
    • 备注说明
    • 私有使用设置(切换“Use Privately”选项)
  3. 保存更改后立即生效。

DeepExtension — 无论模型部署在哪里,都可无缝集成