AI——Dify AI Gateway 企业级模型网关

一、前言

前面我们学会了聊天机器人、知识库RAG、可视化工作流。本篇讲解Dify 的企业级核心功能：AI Gateway（模型网关）。

简单说：所有模型统一入口、统一鉴权、统一限流、统一监控、统一日志，非常适合企业内部管理。

二、AI Gateway 是什么

• 统一模型入口：一个地址调用所有模型（通义千问、文心一言、DeepSeek…）
• 统一密钥管理：不用到处存API Key
• 限流 & 配额：防止滥用、控制成本
• 权限管理：谁能用哪个模型
• 监控统计：调用次数、成功率、耗时
• 负载均衡 & 故障回退：模型挂了自动切备用

一句话：企业内部模型中台。

三、第一步：进入 AI Gateway

1. 左侧菜单：模型供应商 → AI Gateway
2. 首次进入：开启网关
3. 自动生成：网关地址、全局密钥

四、第二步：添加模型到网关

1. 点击添加模型
2. 选择已配置的模型：
   • DeepSeek
   • 通义千问
   • 文心一言
3. 设置：
   • 模型别名（方便调用）
   • 优先级（负载均衡用）
4. 保存

五、第三步：创建路由（最关键）

路由 = “外部调用地址” → “实际模型”

1. 点击创建路由
2. 填写：
   • 路由名称：如general-llm
   • 模型选择：绑定刚才添加的模型
   • 限流：每分钟次数、每日额度
3. 保存

之后你就用这个路由地址调用模型，不用管底层是哪个模型。

六、第四步：获取调用信息

网关提供统一调用信息：

• 网关地址
• 全局API Key
• 路由路径

调用示例：

POST /v1/chat/completions Authorization: Bearer {网关密钥} model: {路由名称}

所有应用、所有系统都用这个统一入口。

七、第五步：监控与日志

网关自带监控面板：

• 今日调用次数
• 成功率
• 平均耗时
• 错误统计
• 按模型/路由统计

企业非常适合用来对账、控成本、查异常。

八、限流 & 权限控制（企业常用）

1. 限流

• 单用户限流
• 按路由限流
• 按模型限流

2. 权限

• 不同团队不同密钥
• 只能用指定模型
• 只能在指定IP调用

九、故障回退（高可用）

配置多模型：

• 主模型：通义千问
• 备用模型：DeepSeek

主模型超时/失败 →自动切备用，业务不中断。

十、适合什么场景

• 企业统一管理所有大模型
• 内部系统统一调用入口
• 控制成本、限流、审计
• 高可用、故障自动切换
• 多租户、团队隔离

十一、常见问题

• 调用报错：检查密钥、路由名、网络
• 超时：调低并发、换更快模型
• 权限不足：检查密钥权限、IP白名单