费率上限的运作方式
速率限制通常在三个维度上进行衡量:
- 每分钟请求数 (RPM)
- 每日请求数 (RPD)
- 每分钟令牌数(输入)(TPM)
系统会根据每项限制对您的用量进行评估,如果超出其中任一限制,都会触发速率限制错误。例如,如果您的 RPM 限制为 20,那么在一分钟内发出 21 个请求将导致错误,即使您没有超出 TPM 或其他限制也是如此。
速率限制按项目应用,而不是按 API 密钥应用。
限制因所使用的具体模型而异,有些限制仅适用于特定模型。例如,“每分钟图片数”(IPM)仅针对能够生成图片的模型(Imagen 3)计算,但在概念上与 TPM 类似。其他型号可能存在每日令牌数上限 (TPD)。
实验性模型和预览版模型的速率限制更为严格。