OpenAI API timeout (시간 내 응답 없음)
지금 장애가 있나요?
OpenAI API 공식 상태는 정상입니다. 이 오류가 계속되면 구현(코드) 또는 사용자 환경 문제일 가능성이 높습니다.
OpenAI API의 가동 상태 보기 →오류의 의미
제한 시간 내에 응답이 오지 않는 상태입니다. 긴 생성, 네트워크, 과부하, 또는 너무 짧은 클라이언트 타임아웃이 원인입니다.
자주 있는 원인
- •생성이 길어 시간 내에 끝나지 않음
- •네트워크 불안정
- •OpenAI 측 과부하
- •클라이언트 타임아웃이 너무 짧음
- •프록시/게이트웨이 타임아웃
해결 방법
- 1.스트리밍(stream=true)으로 수신
- 2.max_tokens / 입력 줄이기
- 3.클라이언트 타임아웃 늘리기
- 4.지수 백오프로 재시도
- 5.네트워크/프록시 설정 확인
기다리면 되는 경우 / 기다려도 안 되는 경우
과부하가 원인이면 시간이 지나면 개선됩니다. 계속되면 스트리밍으로 전환하고 타임아웃을 재검토하세요.
OpenAI API을(를) 쓸 수 없을 때의 대체
관련 오류
자주 묻는 질문
Timeout / gateway timeout은(는) 무엇인가요?
제한 시간 내에 응답이 오지 않는 상태입니다. 긴 생성, 네트워크, 과부하, 또는 너무 짧은 클라이언트 타임아웃이 원인입니다.
Timeout / gateway timeout은(는) 어떻게 해결하나요?
스트리밍(stream=true)으로 수신 / max_tokens / 입력 줄이기 / 클라이언트 타임아웃 늘리기 / 지수 백오프로 재시도 / 네트워크/프록시 설정 확인