跳转到主要内容

概述

Dify 支持通过兼容接口接入外部模型供应方。 使用 AllTokens 作为统一网关后,你可以在 Dify 中集中管理模型访问、额度和路由策略。

适用场景

  • 你希望在 Dify 中接入团队统一的大模型网关
  • 你希望在同一个工作区里复用多个 AllTokens 模型
  • 你希望把应用的模型调用和令牌管理分开处理

前置条件

  • 已部署或可访问 Dify
  • 已拥有 AllTokens API Key
  • 已确认需要接入的模型名称

配置步骤

步骤 1:进入模型供应方配置

在 Dify 后台进入模型供应方或模型配置页面。

步骤 2:选择兼容接入方式

选择 OpenAI 兼容或自定义兼容接口方式接入。如果当前版本支持“OpenAI-API-compatible”之类的提供方,优先使用这一类入口。

步骤 3:填写连接信息

  • Provider name:可填写 AllToken
  • API Key:YOUR_API_KEY
  • Base URL:https://alltoken.co/v1
  • Model:例如 glm-4deepseek-v3claude-3-5-sonnet

步骤 4:添加需要的模型

如果 Dify 允许你分别配置聊天模型、Embedding 模型或重排模型,按你的应用场景逐项添加即可。 例如:
  • Chat model:glm-4
  • Embedding model:text-embedding-3-small
  • Rerank model:选择你已开通的重排模型

步骤 5:验证模型

完成配置后,在 Dify 中新建一个简单应用或测试会话,确认模型能够正常返回结果。

使用建议

  • 建议先在 AllTokens 中为 Dify 创建独立令牌
  • 如需不同应用使用不同模型,可分别配置多个模型项
  • 如果需要稳定切换上游,可在 AllTokens 中完成路由层配置
  • 如果你同时接入聊天和向量能力,建议使用不同模型名,避免混用

常见问题

模型测试失败

请先确认 Base URL 使用的是:
https://alltoken.co/v1

返回模型不存在

请检查模型名称与令牌权限是否匹配。

应用能创建,但运行时报错

请确认 Dify 中实际绑定到应用的模型,和你在供应方里配置的模型名称一致。

下一步