概述
Dify 支持通过兼容接口接入外部模型供应方。 使用 AllTokens 作为统一网关后,你可以在 Dify 中集中管理模型访问、额度和路由策略。适用场景
- 你希望在 Dify 中接入团队统一的大模型网关
- 你希望在同一个工作区里复用多个 AllTokens 模型
- 你希望把应用的模型调用和令牌管理分开处理
前置条件
- 已部署或可访问 Dify
- 已拥有 AllTokens API Key
- 已确认需要接入的模型名称
配置步骤
步骤 1:进入模型供应方配置
在 Dify 后台进入模型供应方或模型配置页面。步骤 2:选择兼容接入方式
选择 OpenAI 兼容或自定义兼容接口方式接入。如果当前版本支持“OpenAI-API-compatible”之类的提供方,优先使用这一类入口。步骤 3:填写连接信息
- Provider name:可填写
AllToken - API Key:
YOUR_API_KEY - Base URL:
https://alltoken.co/v1 - Model:例如
glm-4、deepseek-v3、claude-3-5-sonnet
步骤 4:添加需要的模型
如果 Dify 允许你分别配置聊天模型、Embedding 模型或重排模型,按你的应用场景逐项添加即可。 例如:- Chat model:
glm-4 - Embedding model:
text-embedding-3-small - Rerank model:选择你已开通的重排模型
步骤 5:验证模型
完成配置后,在 Dify 中新建一个简单应用或测试会话,确认模型能够正常返回结果。使用建议
- 建议先在 AllTokens 中为 Dify 创建独立令牌
- 如需不同应用使用不同模型,可分别配置多个模型项
- 如果需要稳定切换上游,可在 AllTokens 中完成路由层配置
- 如果你同时接入聊天和向量能力,建议使用不同模型名,避免混用