AI Gateway 服务架构升级公告

升级时间:

  • 新加坡环境:8月10日晚20:00
  • 上海环境:8月11日晚20:00

升级公告

尊敬的用户:

本次升级的核心,是对平台现有的模型供应渠道进行统一整理。升级完成后,您不再需要关注具体的模型供应商或渠道名称,平台会按照服务质量和使用场景,将模型服务统一划分为三个档位:

档位推荐对客名称推荐描述
经济型经济型|价格优先采用平台高性价比供给,优先满足低成本使用需求。适合模型验证、开发测试、批量处理等对价格敏感、对服务保障要求相对较低的场景。
标准型标准型|均衡供给采用平台聚合的多渠道供给,在调用成本、可用性和服务稳定性之间取得平衡。平台会根据渠道情况进行统一调度,适合大多数日常业务。
高质量型高质量型|原厂及官方渠道优先采用模型原厂或原厂授权云服务渠道,重点保障模型能力一致性、服务稳定性和调用质量。适合生产环境、核心业务及对稳定性要求较高的场景。

为什么进行这次升级

目前不同模型可能由多个供应商提供,客户需要理解供应商、渠道和路由策略,配置和维护成本较高。当供应商发生调整时,也可能需要同步修改 API Key 或调用配置。

升级后,平台将统一管理底层供应渠道。您只需要根据业务对成本和服务质量的要求选择服务档位,不再需要关注具体由哪个供应商提供服务。

本次升级主要带来以下变化:

  • 使用方式更简单:无需选择或维护具体模型供应商。
  • 成本和质量更清晰:不同业务可以明确使用不同服务档位。
  • 底层渠道调整更平滑:供应商增加、切换或维护时,通常不需要修改客户侧调用方式。
  • 业务相互隔离:测试、批处理和生产业务可以使用不同档位的 API Key,避免不同质量的服务混合使用。

API Key 使用方式调整

升级前,一个 API Key 可能同时承载不同模型、不同供应渠道和不同质量要求的业务流量。

升级后,每个 API Key 将固定对应一个服务档位。

例如:

  • api-key-economy
    api-key-economy
    :用于测试、内部工具或成本敏感业务。
  • api-key-standard
    api-key-standard
    :用于常规线上业务。
  • api-key-premium
    api-key-premium
    :用于核心生产业务。

一个 API Key 并不是只能调用一个模型,但只能调用其所属档位当前支持的模型,不能在一次调用中临时切换到其他服务档位。

如果您需要同时使用多个服务档位,需要分别创建对应档位的 API Key,并在不同业务中使用不同的 Key。

模型和价格说明

模型调用地址、请求协议和模型标识保持不变。本次升级主要涉及 API Key 和服务档位的对应关系。

  • 已配置协议折扣的模型,按照对应档位的协议价格计费。
  • 未配置协议折扣的模型仍可使用,按照模型刊例价计费。
  • 模型广场和模型详情页将展示您在不同服务档位下的价格信息。
  • 如果某个档位暂时无法提供目标模型,调用将直接失败,不会自动切换至其他档位,避免产生非预期费用。

您需要提前完成的准备

如果您目前使用一个 API Key 调用全部模型,建议在升级前完成以下检查:

  1. 确认当前 API Key 被哪些应用、环境和模型使用。
  2. 根据业务场景确定需要使用的服务档位。
  3. 为不同服务档位创建独立 API Key。
  4. 将新 API Key 更新到对应应用的环境变量或密钥管理系统中。
  5. 在正式切换前完成调用测试。

如果您的全部业务只需要使用一个服务档位,只需要为现有 API Key 确认对应档位,无需拆分多个 Key。

联系我们
预约咨询
微信咨询
电话咨询
邮件咨询