...
Eroare System Design · Rate limiting: 429 și cereri respinse

429 Too Many Requests de la API-ul unui furnizor extern (SMS, plăți, email)

Pe scurt

Furnizorul extern are o limită de cereri pe secundă pe contul tău, iar aplicația ta (adesea mai multe instanțe sau workeri împreună) o depășește. Pune un limitator comun în fața apelurilor, respectă `Retry-After`, folosește o coadă ca tampon și trimite în loturi unde se poate.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

Când apelezi un API extern, limita lui se aplică pe cheia ta, adică pe toate instanțele și workerii tăi la un loc. Un singur worker poate respecta limita, dar 20 de workeri care pornesc la vârf o depășesc imediat, iar furnizorul răspunde cu 429 (uneori cu un cod propriu, de exemplu Too many requests sau Throttling).

Dacă workerii reîncearcă imediat, se ajunge la un cerc vicios: mai multe cereri, mai multe 429, nimic nu trece. Dacă nu reîncearcă deloc, mesajele se pierd.

Corect este să tratezi limita furnizorului ca pe o capacitate fixă: mesajele intră într-o coadă (care absoarbe vârful), un limitator comun (token bucket în Redis sau o setare de concurență a consumatorilor) lasă să plece cel mult cât permite furnizorul, iar la 429 aștepți cât spune Retry-After. Calculează și cât durează golirea cozii la vârf, ca să știi dacă îți trebuie o limită mai mare.

De ce apare: cauzele frecvente

1Fiecare worker trimite cât poate de repede

Greșit
for (Sms s : coada) {
    furnizor.trimite(s);   // 20 de workeri în paralel
}
Corect
for (Sms s : coada) {
    limitator.acquire();   // token bucket comun: 100/s
    furnizor.trimite(s);
}

Limitatorul comun garantează că toți workerii împreună rămân sub limita contului.

2Reîncercare imediată la 429

Greșit
if (r.status == 429) reincearca(s);
Corect
if (r.status == 429) {
    long sec = r.headerLong("Retry-After", 2);
    coada.amana(s, Duration.ofSeconds(sec));
}

Mesajul e amânat exact cât cere furnizorul, fără să bombardezi API-ul.

Repară tu

Repară eroarea, direct în pagină

Răspunde la cele trei întrebări despre workerii care primesc 429 de la furnizorul de SMS.

Indiciu

Limita furnizorului se aplică pe toți workerii tăi împreună.

Alte forme ale mesajului

  • Throttling: Rate exceeded
  • TooManyRequestsException
  • 429 Too Many Requests (Retry-After: 2)

Cum o eviți pe viitor

  • Tratează limita furnizorului ca o capacitate fixă și calculează timpul de golire a cozii la vârf.
  • Folosește un limitator comun pentru toate instanțele.
  • Respectă Retry-After și folosește backoff exponențial cu jitter.
  • Monitorizează rata de 429 și vechimea mesajelor din coadă.

Întrebări frecvente

Pot ocoli limita cu mai multe chei de API?

De obicei încalcă termenii furnizorului. Calea corectă e o limită mai mare negociată sau un plan superior.

Ce fac cu mesajele urgente când coada e plină de mesaje de marketing?

Folosește cozi separate pe priorități și împarte limita între ele, ca un cod de autentificare să nu aștepte după o campanie.

Erori înrudite

← Toate erorile System Design

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață System Design de la zero, cu exerciții la fiecare lecție

Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.