添加模型供应商
进入 Dify 设置中的模型供应商页面,选择 OpenAI 兼容方式并填写 API 地址与密钥。然后为聊天、推理或嵌入任务分别添加可用模型。
API Endpoint:https://modbapi.com/v1
API Key:YOUR_MODB_API_KEY
Model Name:从模型广场复制工作流中的模型配置
在每个 LLM 节点中明确温度、最大输出长度和失败处理。批量处理前先用少量数据验证输出结构,避免格式错误在后续节点放大。
知识库应用还需要单独确认嵌入模型与重排模型是否可用,不能假设聊天模型可以替代向量模型。
生产环境管理
测试和生产 Dify 实例应使用不同密钥。为批量工作流设置速率限制,并通过控制台日志定位超时、额度不足和模型错误。
常见问题
关于Dify 接入 Modb API 与模型配置的常见问题
Dify 中需要添加哪些模型?
根据应用分别添加聊天、嵌入或重排模型,以模型广场实际支持为准。
工作流出现 429 怎么办?
降低并发、检查密钥速率限制,并对可重试节点设置退避。
测试和生产能共用密钥吗?
不建议,共用会让额度控制和问题定位变得困难。