OpenAI API timeout(タイムアウト・応答が返らない)
現在、障害は発生していますか?
OpenAI API の公式ステータスは正常です。このエラーが続く場合は、実装・環境側の要因の可能性が高いです。
OpenAI API の稼働状況を見る →エラーの意味
応答が制限時間内に返らない状態。長い生成・ネットワーク・過負荷・クライアント側の短いタイムアウト設定が要因です。
よくある原因
- •生成が長く時間内に終わらない
- •ネットワーク不安定
- •OpenAI側の過負荷
- •クライアントのタイムアウトが短すぎる
- •プロキシ/ゲートウェイのタイムアウト
対処法
- 1.ストリーミング(stream=true)で受け取る
- 2.max_tokens/入力を小さくする
- 3.クライアントのタイムアウトを延ばす
- 4.指数バックオフでリトライ
- 5.ネットワーク/プロキシ設定を確認
待つべきケース/待っても直らないケース
過負荷が原因なら時間を置くと改善します。恒常的に出る場合はストリーミング化とタイムアウト見直しが有効です。
OpenAI API が使えないときの代替
関連するエラー
よくある質問
Timeout / gateway timeout とは何ですか?
応答が制限時間内に返らない状態。長い生成・ネットワーク・過負荷・クライアント側の短いタイムアウト設定が要因です。
Timeout / gateway timeout の対処法は?
ストリーミング(stream=true)で受け取る、max_tokens/入力を小さくする、クライアントのタイムアウトを延ばす、指数バックオフでリトライ、ネットワーク/プロキシ設定を確認