大模型服务平台百炼 - 快速模式(Fast mode)正式上线
新功能/规格
2026.07.10
Fast mode 为用户提供更高的 TPS 响应速度(相比标准 API 提升至 1.5~2 倍,80~100 TPS),按 token 计费,无预购容量门槛。当前为 Preview 阶段。
适用客户
全网客户
新增功能/规格
快速模式(Fast mode)为对输出速度敏感的场景提供更高的 TPS。当前为 preview 阶段。
具备以下关键特性:
● 极速推理:TPS 提升至标准 API 的 1.5~2 倍(80~100 TPS),体感响应速度翻倍,TTFT 相比标准 API 持平或更优。
● 零改造接入:只需将 model code 修改为对应模型 ID(如 glm-5.2-fast-preview),无需改造其他代码。
● 按量计费:按 token 计费,与标准 API 计费逻辑一致,无预购容量门槛。
● 能力对齐:模型能力等同 glm-5.2,支持 Function call、结构化输出、联网搜索、前缀续写,兼容隐式缓存与长输入(最长 1M)。