anthropic.RateLimitError: Error code: 429 - rate_limit_error: Number of request tokens has exceeded your per-minute rate limit
Ai trimis prea multe cereri sau prea mulți tokeni într-un minut pentru limita contului tău. Eroarea e temporară: așteaptă cât spune antetul `retry-after` și reîncearcă. Lasă SDK-ul să reîncerce (`max_retries`, implicit 2) sau scrie un backoff exponențial cu jitter, și rărește cererile.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
Codul 429 înseamnă „Too Many Requests”. Fiecare cont are limite pe minut: număr de cereri, tokeni de intrare și tokeni de ieșire, pe model. Când una e depășită, serverul refuză cererile până se eliberează fereastra. Partea din mesaj îți spune ce limită ai atins (aici, tokenii de intrare pe minut).
Apare tipic la procesări în buclă (sute de recenzii, facturi, documente trimise cât de repede poate rula for-ul), la teste paralele sau când un prompt foarte lung consumă singur mare parte din limita de tokeni. Răspunsul serverului are antetul retry-after, cu numărul de secunde după care merită să încerci din nou: e.response.headers.get("retry-after").
SDK-urile reîncearcă automat 429 de 2 ori, respectând retry-after. Dacă ai pus max_retries=0 (de exemplu, ca să tratezi singur erorile) și nu ai propria logică de retry, prima limită atinsă oprește programul. Pentru volume mari de procesare offline, Batch API evită complet limitele pe minut și costă mai puțin.
De ce apare: cauzele frecvente
1Reîncercările SDK-ului oprite, fără logică proprie
client = anthropic.Anthropic(max_retries=0)
for text in recenzii:
r = client.messages.create(model=MODEL, max_tokens=50, messages=[...])client = anthropic.Anthropic(max_retries=4) # respectă retry-after
for text in recenzii:
r = client.messages.create(model=MODEL, max_tokens=50, messages=[...])SDK-ul așteaptă cât cere serverul și reîncearcă singur; 429-urile ocazionale nu mai opresc procesarea.
2Reîncercare imediată, în buclă
while True:
try:
return client.messages.create(**cerere)
except anthropic.RateLimitError:
continuefor incercare in range(5):
try:
return client.messages.create(**cerere)
except anthropic.RateLimitError as e:
pauza = float(e.response.headers.get("retry-after") or 2 ** incercare)
time.sleep(pauza)
raise RuntimeError("Limită de rată atinsă în continuu")Reîncercarea fără pauză lovește din nou limita. Pauza din retry-after (sau una exponențială) dă timp ferestrei să se elibereze.
3Mii de documente trimise sincron
for doc in documente: # 5000 de cereri, una după alta
clasifica(doc)cereri = [{"custom_id": f"doc-{i}", "params": {...}} for i, doc in enumerate(documente)]
batch = client.messages.batches.create(requests=cereri)Batch API procesează cererile asincron, fără limitele pe minut ale apelurilor obișnuite, la jumătate de preț.
Repară eroarea, direct în pagină
Programul de mai jos clasifică recenzii și se oprește cu anthropic.RateLimitError: Error code: 429 la a doua recenzie: clientul are max_retries=0. Simulatorul dă 429 de două ori la rând (cu retry-after: 2), apoi răspunde. Repară crearea clientului ca SDK-ul să reîncerce automat de până la 4 ori. Programul afișează categoria fiecărei recenzii.
import anthropic
MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic(max_retries=0)
recenzii = [
"Livrare rapidă, produs exact ca în poze.",
"Am primit telefonul cu ecranul zgâriat.",
"E ok, nimic special.",
]
for text in recenzii:
r = client.messages.create(
model=MODEL,
max_tokens=20,
system="Clasifici recenzia: pozitiv, negativ sau neutru. Răspunzi cu un singur cuvânt.",
messages=[{"role": "user", "content": text}],
)
print(f"{text} -> {r.content[0].text}")Livrare rapidă, produs exact ca în poze. -> pozitiv Am primit telefonul cu ecranul zgâriat. -> negativ E ok, nimic special. -> neutru
Indiciu
Parametrul care controlează reîncercările automate este max_retries.
Reparația
import anthropic
MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic(max_retries=4) # reîncearcă 429, respectând retry-after
recenzii = [
"Livrare rapidă, produs exact ca în poze.",
"Am primit telefonul cu ecranul zgâriat.",
"E ok, nimic special.",
]
for text in recenzii:
r = client.messages.create(
model=MODEL,
max_tokens=20,
system="Clasifici recenzia: pozitiv, negativ sau neutru. Răspunzi cu un singur cuvânt.",
messages=[{"role": "user", "content": text}],
)
print(f"{text} -> {r.content[0].text}")De ce merge
Limita de rată e o eroare temporară: după câteva secunde, aceeași cerere reușește. Cu max_retries=0, prima limită atinsă devine excepție și oprește bucla. Cu max_retries=4, SDK-ul citește retry-after, așteaptă (în simulator, timpul e virtual) și reîncearcă, iar recenzia trece după două reîncercări. Pentru volume mari, adaugi și o limită de viteză sau Batch API.
Alte forme ale mesajului
anthropic.RateLimitError: Error code: 429 - {'type': 'error', 'error': {'type': 'rate_limit_error', 'message': 'Number of request tokens has exceeded your per-minute rate limit'}}openai.RateLimitError: Error code: 429 - Rate limit reached for gpt-6-luna in organization org-abc on tokens per min (TPM): Limit 200000, Used 199500, Requested 1200. Please try again in 210ms.
Cum o eviți pe viitor
- Nu dezactiva reîncercările SDK-ului decât dacă ai propriul backoff cu
retry-after. - Pentru procesări mari, limitează viteza (câte cereri pe secundă) sau folosește Batch API.
- Scurtează prompturile repetitive și folosește prompt caching, ca să consumi mai puțini tokeni de intrare pe minut.
- Monitorizează 429-urile în log: dacă apar des, cere o limită mai mare sau împarte încărcarea în timp.
Întrebări frecvente
Cât trebuie să aștept?
Cât spune antetul retry-after, dacă există. Altfel, folosește backoff exponențial cu jitter: 1, 2, 4, 8 secunde, cu o parte aleatoare, până la un maxim.
De ce primesc 429 deși fac puține cereri?
Limita poate fi pe tokeni, nu doar pe număr de cereri: câteva prompturi foarte lungi pot consuma limita de tokeni pe minut. Verifică textul erorii, care spune ce limită ai atins.
E același lucru cu „insufficient_quota”?
Nu. Cota epuizată (OpenAI) vine tot cu 429, dar nu trece cu pauze: trebuie adăugat credit. Recunoaște-o după mesaj și nu o reîncerca.
Erori înrudite
anthropic.InternalServerError: Error code: 529 - {'type': 'error', 'error': {'type': 'overloaded_error', 'message': 'Overloaded'}} Serverele Anthropic sunt temporar suprasolicitate; nu e vina codului sau a contului tău. Reîncearcă după o pauză (SDK-ul o face automat de 2 ori), iar pentru aplicațiile importante pregătește un plan B: alt model sau alt furnizor, plus un mesaj prietenos pentru utilizator. anthropic.APIConnectionError: Connection error. Cererea nu a ajuns la server sau răspunsul nu a ajuns înapoi: problemă de rețea, DNS, proxy, firewall sau o întrerupere scurtă. Verifică conexiunea și setările de proxy, lasă SDK-ul să reîncerce (`max_retries`) și prinde `APIConnectionError` cu un mesaj prietenos. openai.RateLimitError: Error code: 429 - You exceeded your current quota, please check your plan and billing details. Contul OpenAI nu mai are credit sau a atins limita lunară de cheltuieli (`insufficient_quota`), deși eroarea vine ca 429. Adaugă credit sau mărește limita din Billing; în cod, nu o reîncerca la nesfârșit ca pe un rate limit obișnuit, ci arată un mesaj și alertează-te. Învață Aplicații AI cu LLM de la zero, cu exerciții la fiecare lecție
Curs Aplicații AI cu Claude și OpenAI: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 8 lecții sunt gratuite.
