...
Eroare Aplicații AI cu LLM · Rate limit, suprasolicitare, timeout și retry

openai.InternalServerError: Error code: 503 - The server is overloaded or not ready yet.

Pe scurt

Serverele OpenAI sunt temporar suprasolicitate; cererea ta nu are nicio problemă. Reîncearcă după o pauză, cu backoff exponențial: setează max_retries mai mare pe client (sau cu with_options pentru apelurile importante) și prinde InternalServerError ca să afișezi un mesaj prietenos.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

Codul 503 (Service Unavailable) vine de la server și înseamnă că acum nu poate procesa cererea: trafic foarte mare, un model care tocmai pornește sau o problemă temporară. E echivalentul la OpenAI al erorii 529 overloaded_error de la Anthropic.

SDK-ul reîncearcă automat erorile 5xx de două ori (implicit max_retries=2), cu pauze tot mai lungi. Dacă vezi excepția, înseamnă că toate cele trei încercări au eșuat. În perioadele aglomerate, două reîncercări nu ajung.

Nu modifica cererea: aceeași cerere, trimisă puțin mai târziu, trece. Dacă eroarea durează minute, verifică pagina de status a furnizorului și ia în calcul un model sau un furnizor de rezervă.

De ce apare: cauzele frecvente

1Prea puține reîncercări pentru un apel important

Greșit
PYTHON
client = OpenAI()   # max_retries=2
r = client.responses.create(model=MODEL, input=text)
Corect
PYTHON
client = OpenAI()
r = client.with_options(max_retries=5).responses.create(model=MODEL, input=text)

with_options mărește reîncercările doar pentru acest apel; SDK-ul așteaptă tot mai mult între încercări.

2Reîncercări dezactivate

Greșit
PYTHON
client = OpenAI(max_retries=0)
Corect
PYTHON
client = OpenAI(max_retries=3)

Cu max_retries=0, orice 503 trecător ajunge direct la utilizator.

Repară tu

Repară eroarea, direct în pagină

Asistentul hotelului primește 503 - The server is overloaded or not ready yet. la primele trei încercări, iar cu reîncercările implicite (2) programul cade. Repară apelul: folosește client.with_options(max_retries=5) pentru cerere, ca SDK-ul să reîncerce până trece, și afișează răspunsul.

Codul care dă eroarea
PYTHON
from openai import OpenAI

MODEL = "gpt-6-luna"
client = OpenAI()

r = client.responses.create(model=MODEL, input="Pot anula rezervarea fără penalizare?")
print(r.output_text)
După reparație, programul afișează
Rezervarea se poate anula gratuit cu 48 de ore înainte de sosire.
Indiciu

client.with_options(max_retries=5).responses.create(...)

Alte forme ale mesajului

  • openai.InternalServerError: Error code: 500 - The server had an error while processing your request. Sorry about that!
  • openai.InternalServerError: Error code: 502 - Bad gateway.

Cum o eviți pe viitor

  • Lasă SDK-ul să reîncerce (nu pune max_retries=0 în producție) și mărește valoarea pentru apelurile critice.
  • Prinde openai.InternalServerError la nivelul aplicației și afișează un mesaj clar, fără detalii tehnice.
  • Pentru aplicații care trebuie să răspundă mereu, pregătește un model sau un furnizor de rezervă.
  • Monitorizează rata erorilor 5xx în loguri.

Întrebări frecvente

E vina codului meu?

Nu. Codurile 5xx sunt erori ale serverului. O cerere greșită primește 4xx (400, 401, 404). La 5xx, aceeași cerere trece la o reîncercare ulterioară.

Cât să aștept între încercări?

SDK-ul folosește backoff exponențial cu jitter: pauze care cresc (aproximativ 0,5 s, 1 s, 2 s...) cu o componentă aleatoare. Dacă scrii tu bucla, urmează același model și pune o limită de încercări.

Erori înrudite

← Toate erorile Aplicații AI cu LLM

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață Aplicații AI cu LLM de la zero, cu exerciții la fiecare lecție

Curs Aplicații AI cu Claude și OpenAI: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 8 lecții sunt gratuite.