Fast mode（OpenAI API）

レイテンシが重要で、トラフィックが定常的にあるユーザー向けアプリケーションを想定しています。従来の Priority Processing を置き換えるもので、Responses API と Chat Completions API のリクエストに適用できます。

Fast mode は、OpenAI API の処理区分の 1 つで、最大 2.5 倍の速度とより安定したレイテンシを従量課金で提供します。レイテンシが重要で、トラフィックが定常的にあるユーザー向けアプリケーションを想定しています。

Fast mode は従来の Priority Processing を置き換えるものです。この変更は後方互換で、priority を指定したリクエストは自動的に Fast mode を使います。API リクエストでは service_tier: "priority" と service_tier: "fast" のどちらでも Fast mode を利用できます。

• GPT-5.6 Sol では、標準処理の 2 倍の価格で、最大 2.5 倍の速度になります。
• キャッシュされた入力の割引は、Fast mode のリクエストにも適用されます。
• トラフィックの増加が急すぎる場合、一部の Fast mode リクエストが標準の速度に切り下げられ、標準の料金で課金される場合があります。このとき応答には service_tier: "default" が含まれます。
• Fast mode は Scale Tier とは別の扱いです。請求は別立てで、購入済みの Scale Tier の TPM バンドルには計上されません。Scale Tier からあふれたトラフィックが自動的に Fast mode に移ることもありません。

リクエスト単位の指定に加えて、プロジェクト単位でも Fast mode を有効にできます。Settings (設定) を開き、Project (プロジェクト) の下の General (一般) を選び、Project Service Tier (プロジェクトのサービス区分) を Fast に変更します。

プロジェクト単位で設定すると、service_tier を指定していないリクエストは既定で Fast mode になります。プロジェクトのリクエストは、時間をかけて段階的に Fast mode へ移行します。

使用状況のダッシュボードで Fast mode のリクエストを見るには、サービス区分でグループ化するオプションを選びます。GPT-5.6 以前のモデルでは、fast を指定したリクエストも priority として表示されます。

• Fast mode は、画像入力を含むマルチモーダルのリクエストに対応しています。
• ファインチューニング済みのモデルと embeddings には対応していません。
• GPT-5.6 Sol・GPT-5.6 Terra・GPT-5.6 Luna では、ロングコンテキストのリクエストに対応しています。272K トークンを超えるプロンプトも、Standard tier より最大 2.5 倍速く実行できます。
• Fast mode は、データレジデンシー、Zero Data Retention、Business Associate Agreement (BAA) と併用できます。ただし、モデルごとの提供状況に依存します。
• 対象プランについては、公式のリリースノートには記載がありません。

ここでは、リクエスト単位で Fast mode を有効にする流れを示します。

1. API リクエストで service_tier パラメーターを fast に設定します。対応モデルでは priority を指定しても同じ動作になります。
2. 応答オブジェクトの service_tier フィールドで、実際に処理された区分を確認します。GPT-5.6 以前のモデルでは、fast を指定しても priority が返ります。
3. 応答に service_tier: "default" が含まれる場合、そのリクエストは標準の速度と料金で処理されています。