OpenAI API timeout(逾時·未在時限內回傳)
現在有故障嗎?
OpenAI API 官方狀態正常。若此錯誤持續出現,多半是實作或你的運作環境問題。
查看 OpenAI API 的運作狀態 →錯誤含義
回應未在時限內回傳:生成過長、網路問題、過載,或用戶端逾時設定過短。
常見原因
- •生成耗時過長,未能在時限內完成
- •網路不穩定
- •OpenAI 端過載
- •用戶端逾時設定過短
- •代理/閘道逾時
解決方法
- 1.使用串流接收(stream=true)
- 2.縮小 max_tokens / 輸入
- 3.延長用戶端逾時
- 4.採用指數退避重試
- 5.檢查網路/代理設定
何時該等待 / 等待也無濟於事的情況
若由過載引起,等待後會改善。若持續出現,改用串流並檢查逾時設定。
OpenAI API 當機時的替代方案
相關錯誤
常見問題
Timeout / gateway timeout 是什麼?
回應未在時限內回傳:生成過長、網路問題、過載,或用戶端逾時設定過短。
Timeout / gateway timeout 如何解決?
使用串流接收(stream=true) / 縮小 max_tokens / 輸入 / 延長用戶端逾時 / 採用指數退避重試 / 檢查網路/代理設定