大模型服务平台百炼 - TPM 预留功能上线

全网客户

通过 TPM（Tokens Per Minute）预留，您可以为指定模型锁定专属的推理吞吐量，预留容量内的调用不受公共资源限流影响。 ꔷ 容量保障：预留的 TPM 容量为业务专属，不与其他用户共享。 ꔷ 专属模型 code：创建 TPM 预留后，系统自动生成专属模型 code，只需要将 API 请求中的 model 参数替换为该 code。 ꔷ 超额不中断：超出预留容量的请求自动降级为按量计费处理，无需修改代码。