AI Gateway 服务架构升级公告
升级时间:
- 新加坡环境:8月10日晚20:00
- 上海环境:8月11日晚20:00
升级公告
尊敬的用户:
本次升级的核心,是对平台现有的模型供应渠道进行统一整理。升级完成后,您不再需要关注具体的模型供应商或渠道名称,平台会按照服务质量和使用场景,将模型服务统一划分为三个档位:
| 档位 | 推荐对客名称 | 推荐描述 |
|---|---|---|
| 经济型 | 经济型|价格优先 | 采用平台高性价比供给,优先满足低成本使用需求。适合模型验证、开发测试、批量处理等对价格敏感、对服务保障要求相对较低的场景。 |
| 标准型 | 标准型|均衡供给 | 采用平台聚合的多渠道供给,在调用成本、可用性和服务稳定性之间取得平衡。平台会根据渠道情况进行统一调度,适合大多数日常业务。 |
| 高质量型 | 高质量型|原厂及官方渠道 | 优先采用模型原厂或原厂授权云服务渠道,重点保障模型能力一致性、服务稳定性和调用质量。适合生产环境、核心业务及对稳定性要求较高的场景。 |
为什么进行这次升级
目前不同模型可能由多个供应商提供,客户需要理解供应商、渠道和路由策略,配置和维护成本较高。当供应商发生调整时,也可能需要同步修改 API Key 或调用配置。
升级后,平台将统一管理底层供应渠道。您只需要根据业务对成本和服务质量的要求选择服务档位,不再需要关注具体由哪个供应商提供服务。
本次升级主要带来以下变化:
- 使用方式更简单:无需选择或维护具体模型供应商。
- 成本和质量更清晰:不同业务可以明确使用不同服务档位。
- 底层渠道调整更平滑:供应商增加、切换或维护时,通常不需要修改客户侧调用方式。
- 业务相互隔离:测试、批处理和生产业务可以使用不同档位的 API Key,避免不同质量的服务混合使用。
API Key 使用方式调整
升级前,一个 API Key 可能同时承载不同模型、不同供应渠道和不同质量要求的业务流量。
升级后,每个 API Key 将固定对应一个服务档位。
例如:
:用于测试、内部工具或成本敏感业务。api-key-economy
:用于常规线上业务。api-key-standard
:用于核心生产业务。api-key-premium
一个 API Key 并不是只能调用一个模型,但只能调用其所属档位当前支持的模型,不能在一次调用中临时切换到其他服务档位。
如果您需要同时使用多个服务档位,需要分别创建对应档位的 API Key,并在不同业务中使用不同的 Key。
模型和价格说明
模型调用地址、请求协议和模型标识保持不变。本次升级主要涉及 API Key 和服务档位的对应关系。
- 已配置协议折扣的模型,按照对应档位的协议价格计费。
- 未配置协议折扣的模型仍可使用,按照模型刊例价计费。
- 模型广场和模型详情页将展示您在不同服务档位下的价格信息。
- 如果某个档位暂时无法提供目标模型,调用将直接失败,不会自动切换至其他档位,避免产生非预期费用。
您需要提前完成的准备
如果您目前使用一个 API Key 调用全部模型,建议在升级前完成以下检查:
- 确认当前 API Key 被哪些应用、环境和模型使用。
- 根据业务场景确定需要使用的服务档位。
- 为不同服务档位创建独立 API Key。
- 将新 API Key 更新到对应应用的环境变量或密钥管理系统中。
- 在正式切换前完成调用测试。
如果您的全部业务只需要使用一个服务档位,只需要为现有 API Key 确认对应档位,无需拆分多个 Key。
联系我们
