Hard spend limits (支出の上限設定)

上限に達すると、対象の API リクエストは 429 エラーを返します。API の利用料金に月ごとの上限を設け、超過したときにリクエストを止める運用に関わる機能です。

Hard spend limits は、追跡された支出が設定額に達した後の API トラフィックを止めるための上限設定です。組織単位と個別のプロジェクト単位で設定できます。

• 組織の上限: 組織内のすべてのプロジェクトの API トラフィックに適用されます。
• プロジェクトの上限: そのプロジェクトに請求される API トラフィックだけに適用されます。

上限に達すると、対象の API リクエストは 429 エラーを返し、エラーのコードは organization_spend_limit_exceeded または project_spend_limit_exceeded になります。なお、利用ティアに基づいて OpenAI が承認する利用上限は、自分で設定する支出上限とは別のものです。

上限の適用は即時ではありません。上限の状態が反映されるまでの間に少量の追加の利用が処理される場合があり、記録される支出が設定額をわずかに超える場合があります。

リクエストが止まったときは、error.code を確認します。このコードで、組織の支出上限・プロジェクトの支出上限・OpenAI が割り当てた利用上限のどれに達したのか、あるいは組織の前払いクレジットが尽きたのかを見分けられます。

organization_spend_limit_exceeded または project_spend_limit_exceeded の場合は、現在の利用状況と設定した支出上限を比べます。月次のリセットより前にトラフィックを再開する必要があれば、到達した上限を引き上げるか削除します。変更が反映された後にトラフィックが再開します。変更しない場合、上限は次の月次サイクルでリセットされます。

支出アラートは上限を強制しません。ハードな支出上限を追加しても支出アラートは有効なままなので、上限によってトラフィックが止まる前に通知を受け取る用途に使えます。止める仕組みとしてハードな上限を、事前に知る仕組みとして支出アラートを、それぞれ設定できます。

• 支出上限の設定には、対象となる組織またはプロジェクトの設定を管理する権限が必要です。
• 上限の適用は即時ではないため、記録される支出が設定額をわずかに超える場合があります。
• 利用ティアに基づく OpenAI 承認の利用上限は、設定する支出上限とは別に存在します。
• サービスティアは、組織の設定で全プロジェクトに対して制限できます。
• 対象となるプランについては、公式のリリースノートには記載がありません。

ここでは、組織に上限を設定する流れを示します。

1. Organization limits (組織の上限) の画面を開きます。
2. Spend (支出) の欄で Edit spend limit (支出上限の編集) を選びます。
3. Monthly spend limit (月間の支出上限) に金額を入力します。
4. 組織が上限に達した後に API の応答を失敗させるには、Enforce a hard limit (ハードリミットを適用) をオンにします。
5. Save (保存) を選びます。