...
Eroare Aplicații AI cu LLM · Rate limit, suprasolicitare, timeout și retry

anthropic.RateLimitError: Error code: 429 - rate_limit_error: Number of request tokens has exceeded your per-minute rate limit

Pe scurt

Ai trimis prea multe cereri sau prea mulți tokeni într-un minut pentru limita contului tău. Eroarea e temporară: așteaptă cât spune antetul `retry-after` și reîncearcă. Lasă SDK-ul să reîncerce (`max_retries`, implicit 2) sau scrie un backoff exponențial cu jitter, și rărește cererile.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

Codul 429 înseamnă „Too Many Requests”. Fiecare cont are limite pe minut: număr de cereri, tokeni de intrare și tokeni de ieșire, pe model. Când una e depășită, serverul refuză cererile până se eliberează fereastra. Partea din mesaj îți spune ce limită ai atins (aici, tokenii de intrare pe minut).

Apare tipic la procesări în buclă (sute de recenzii, facturi, documente trimise cât de repede poate rula for-ul), la teste paralele sau când un prompt foarte lung consumă singur mare parte din limita de tokeni. Răspunsul serverului are antetul retry-after, cu numărul de secunde după care merită să încerci din nou: e.response.headers.get("retry-after").

SDK-urile reîncearcă automat 429 de 2 ori, respectând retry-after. Dacă ai pus max_retries=0 (de exemplu, ca să tratezi singur erorile) și nu ai propria logică de retry, prima limită atinsă oprește programul. Pentru volume mari de procesare offline, Batch API evită complet limitele pe minut și costă mai puțin.

De ce apare: cauzele frecvente

1Reîncercările SDK-ului oprite, fără logică proprie

Greșit
PYTHON
client = anthropic.Anthropic(max_retries=0)
for text in recenzii:
    r = client.messages.create(model=MODEL, max_tokens=50, messages=[...])
Corect
PYTHON
client = anthropic.Anthropic(max_retries=4)   # respectă retry-after
for text in recenzii:
    r = client.messages.create(model=MODEL, max_tokens=50, messages=[...])

SDK-ul așteaptă cât cere serverul și reîncearcă singur; 429-urile ocazionale nu mai opresc procesarea.

2Reîncercare imediată, în buclă

Greșit
PYTHON
while True:
    try:
        return client.messages.create(**cerere)
    except anthropic.RateLimitError:
        continue
Corect
PYTHON
for incercare in range(5):
    try:
        return client.messages.create(**cerere)
    except anthropic.RateLimitError as e:
        pauza = float(e.response.headers.get("retry-after") or 2 ** incercare)
        time.sleep(pauza)
raise RuntimeError("Limită de rată atinsă în continuu")

Reîncercarea fără pauză lovește din nou limita. Pauza din retry-after (sau una exponențială) dă timp ferestrei să se elibereze.

3Mii de documente trimise sincron

Greșit
PYTHON
for doc in documente:   # 5000 de cereri, una după alta
    clasifica(doc)
Corect
PYTHON
cereri = [{"custom_id": f"doc-{i}", "params": {...}} for i, doc in enumerate(documente)]
batch = client.messages.batches.create(requests=cereri)

Batch API procesează cererile asincron, fără limitele pe minut ale apelurilor obișnuite, la jumătate de preț.

Repară tu

Repară eroarea, direct în pagină

Programul de mai jos clasifică recenzii și se oprește cu anthropic.RateLimitError: Error code: 429 la a doua recenzie: clientul are max_retries=0. Simulatorul dă 429 de două ori la rând (cu retry-after: 2), apoi răspunde. Repară crearea clientului ca SDK-ul să reîncerce automat de până la 4 ori. Programul afișează categoria fiecărei recenzii.

Codul care dă eroarea
PYTHON
import anthropic

MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic(max_retries=0)

recenzii = [
    "Livrare rapidă, produs exact ca în poze.",
    "Am primit telefonul cu ecranul zgâriat.",
    "E ok, nimic special.",
]
for text in recenzii:
    r = client.messages.create(
        model=MODEL,
        max_tokens=20,
        system="Clasifici recenzia: pozitiv, negativ sau neutru. Răspunzi cu un singur cuvânt.",
        messages=[{"role": "user", "content": text}],
    )
    print(f"{text} -> {r.content[0].text}")
După reparație, programul afișează
Livrare rapidă, produs exact ca în poze. -> pozitiv
Am primit telefonul cu ecranul zgâriat. -> negativ
E ok, nimic special. -> neutru
Indiciu

Parametrul care controlează reîncercările automate este max_retries.

Alte forme ale mesajului

  • anthropic.RateLimitError: Error code: 429 - {'type': 'error', 'error': {'type': 'rate_limit_error', 'message': 'Number of request tokens has exceeded your per-minute rate limit'}}
  • openai.RateLimitError: Error code: 429 - Rate limit reached for gpt-6-luna in organization org-abc on tokens per min (TPM): Limit 200000, Used 199500, Requested 1200. Please try again in 210ms.

Cum o eviți pe viitor

  • Nu dezactiva reîncercările SDK-ului decât dacă ai propriul backoff cu retry-after.
  • Pentru procesări mari, limitează viteza (câte cereri pe secundă) sau folosește Batch API.
  • Scurtează prompturile repetitive și folosește prompt caching, ca să consumi mai puțini tokeni de intrare pe minut.
  • Monitorizează 429-urile în log: dacă apar des, cere o limită mai mare sau împarte încărcarea în timp.

Întrebări frecvente

Cât trebuie să aștept?

Cât spune antetul retry-after, dacă există. Altfel, folosește backoff exponențial cu jitter: 1, 2, 4, 8 secunde, cu o parte aleatoare, până la un maxim.

De ce primesc 429 deși fac puține cereri?

Limita poate fi pe tokeni, nu doar pe număr de cereri: câteva prompturi foarte lungi pot consuma limita de tokeni pe minut. Verifică textul erorii, care spune ce limită ai atins.

E același lucru cu „insufficient_quota”?

Nu. Cota epuizată (OpenAI) vine tot cu 429, dar nu trece cu pauze: trebuie adăugat credit. Recunoaște-o după mesaj și nu o reîncerca.

Erori înrudite

← Toate erorile Aplicații AI cu LLM

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață Aplicații AI cu LLM de la zero, cu exerciții la fiecare lecție

Curs Aplicații AI cu Claude și OpenAI: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 8 lecții sunt gratuite.