openai.InternalServerError: Error code: 503 - The server is overloaded or not ready yet.
Serverele OpenAI sunt temporar suprasolicitate; cererea ta nu are nicio problemă. Reîncearcă după o pauză, cu backoff exponențial: setează max_retries mai mare pe client (sau cu with_options pentru apelurile importante) și prinde InternalServerError ca să afișezi un mesaj prietenos.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
Codul 503 (Service Unavailable) vine de la server și înseamnă că acum nu poate procesa cererea: trafic foarte mare, un model care tocmai pornește sau o problemă temporară. E echivalentul la OpenAI al erorii 529 overloaded_error de la Anthropic.
SDK-ul reîncearcă automat erorile 5xx de două ori (implicit max_retries=2), cu pauze tot mai lungi. Dacă vezi excepția, înseamnă că toate cele trei încercări au eșuat. În perioadele aglomerate, două reîncercări nu ajung.
Nu modifica cererea: aceeași cerere, trimisă puțin mai târziu, trece. Dacă eroarea durează minute, verifică pagina de status a furnizorului și ia în calcul un model sau un furnizor de rezervă.
De ce apare: cauzele frecvente
1Prea puține reîncercări pentru un apel important
client = OpenAI() # max_retries=2
r = client.responses.create(model=MODEL, input=text)client = OpenAI()
r = client.with_options(max_retries=5).responses.create(model=MODEL, input=text)with_options mărește reîncercările doar pentru acest apel; SDK-ul așteaptă tot mai mult între încercări.
2Reîncercări dezactivate
client = OpenAI(max_retries=0)client = OpenAI(max_retries=3)Cu max_retries=0, orice 503 trecător ajunge direct la utilizator.
Repară eroarea, direct în pagină
Asistentul hotelului primește 503 - The server is overloaded or not ready yet. la primele trei încercări, iar cu reîncercările implicite (2) programul cade. Repară apelul: folosește client.with_options(max_retries=5) pentru cerere, ca SDK-ul să reîncerce până trece, și afișează răspunsul.
from openai import OpenAI
MODEL = "gpt-6-luna"
client = OpenAI()
r = client.responses.create(model=MODEL, input="Pot anula rezervarea fără penalizare?")
print(r.output_text)Rezervarea se poate anula gratuit cu 48 de ore înainte de sosire.
Indiciu
client.with_options(max_retries=5).responses.create(...)
Reparația
from openai import OpenAI
MODEL = "gpt-6-luna"
client = OpenAI()
r = client.with_options(max_retries=5).responses.create(model=MODEL, input="Pot anula rezervarea fără penalizare?")
print(r.output_text)De ce merge
Un 503 e o problemă temporară a serverului, iar cererea în sine e corectă. Cu max_retries=2, SDK-ul face doar trei încercări și toate cad. Cu with_options(max_retries=5), apelul are până la șase încercări, cu pauze care cresc între ele, iar a patra trece. Restul aplicației păstrează setările clientului, deci doar apelul important primește mai multă răbdare.
Alte forme ale mesajului
openai.InternalServerError: Error code: 500 - The server had an error while processing your request. Sorry about that!openai.InternalServerError: Error code: 502 - Bad gateway.
Cum o eviți pe viitor
- Lasă SDK-ul să reîncerce (nu pune
max_retries=0în producție) și mărește valoarea pentru apelurile critice. - Prinde
openai.InternalServerErrorla nivelul aplicației și afișează un mesaj clar, fără detalii tehnice. - Pentru aplicații care trebuie să răspundă mereu, pregătește un model sau un furnizor de rezervă.
- Monitorizează rata erorilor 5xx în loguri.
Întrebări frecvente
E vina codului meu?
Nu. Codurile 5xx sunt erori ale serverului. O cerere greșită primește 4xx (400, 401, 404). La 5xx, aceeași cerere trece la o reîncercare ulterioară.
Cât să aștept între încercări?
SDK-ul folosește backoff exponențial cu jitter: pauze care cresc (aproximativ 0,5 s, 1 s, 2 s...) cu o componentă aleatoare. Dacă scrii tu bucla, urmează același model și pune o limită de încercări.
Erori înrudite
anthropic.InternalServerError: Error code: 529 - {'type': 'error', 'error': {'type': 'overloaded_error', 'message': 'Overloaded'}} Serverele Anthropic sunt temporar suprasolicitate; nu e vina codului sau a contului tău. Reîncearcă după o pauză (SDK-ul o face automat de 2 ori), iar pentru aplicațiile importante pregătește un plan B: alt model sau alt furnizor, plus un mesaj prietenos pentru utilizator. anthropic.RateLimitError: Error code: 429 - rate_limit_error: Number of request tokens has exceeded your per-minute rate limit Ai trimis prea multe cereri sau prea mulți tokeni într-un minut pentru limita contului tău. Eroarea e temporară: așteaptă cât spune antetul `retry-after` și reîncearcă. Lasă SDK-ul să reîncerce (`max_retries`, implicit 2) sau scrie un backoff exponențial cu jitter, și rărește cererile. anthropic.APIConnectionError: Connection error. Cererea nu a ajuns la server sau răspunsul nu a ajuns înapoi: problemă de rețea, DNS, proxy, firewall sau o întrerupere scurtă. Verifică conexiunea și setările de proxy, lasă SDK-ul să reîncerce (`max_retries`) și prinde `APIConnectionError` cu un mesaj prietenos. Învață Aplicații AI cu LLM de la zero, cu exerciții la fiecare lecție
Curs Aplicații AI cu Claude și OpenAI: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 8 lecții sunt gratuite.
