429 Too Many Requests de la API-ul unui furnizor extern (SMS, plăți, email)
Furnizorul extern are o limită de cereri pe secundă pe contul tău, iar aplicația ta (adesea mai multe instanțe sau workeri împreună) o depășește. Pune un limitator comun în fața apelurilor, respectă `Retry-After`, folosește o coadă ca tampon și trimite în loturi unde se poate.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
Când apelezi un API extern, limita lui se aplică pe cheia ta, adică pe toate instanțele și workerii tăi la un loc. Un singur worker poate respecta limita, dar 20 de workeri care pornesc la vârf o depășesc imediat, iar furnizorul răspunde cu 429 (uneori cu un cod propriu, de exemplu Too many requests sau Throttling).
Dacă workerii reîncearcă imediat, se ajunge la un cerc vicios: mai multe cereri, mai multe 429, nimic nu trece. Dacă nu reîncearcă deloc, mesajele se pierd.
Corect este să tratezi limita furnizorului ca pe o capacitate fixă: mesajele intră într-o coadă (care absoarbe vârful), un limitator comun (token bucket în Redis sau o setare de concurență a consumatorilor) lasă să plece cel mult cât permite furnizorul, iar la 429 aștepți cât spune Retry-After. Calculează și cât durează golirea cozii la vârf, ca să știi dacă îți trebuie o limită mai mare.
De ce apare: cauzele frecvente
1Fiecare worker trimite cât poate de repede
for (Sms s : coada) {
furnizor.trimite(s); // 20 de workeri în paralel
}for (Sms s : coada) {
limitator.acquire(); // token bucket comun: 100/s
furnizor.trimite(s);
}Limitatorul comun garantează că toți workerii împreună rămân sub limita contului.
2Reîncercare imediată la 429
if (r.status == 429) reincearca(s);if (r.status == 429) {
long sec = r.headerLong("Retry-After", 2);
coada.amana(s, Duration.ofSeconds(sec));
}Mesajul e amânat exact cât cere furnizorul, fără să bombardezi API-ul.
Repară eroarea, direct în pagină
Răspunde la cele trei întrebări despre workerii care primesc 429 de la furnizorul de SMS.
Indiciu
Limita furnizorului se aplică pe toți workerii tăi împreună.
Reparația
- q1: Workerii depășesc împreună limita și primesc 429.
- q2: limitator comun,
Retry-Aftercu backoff, loturi. - q3: 30.000 / 100 = 300 s = 5 minute.
De ce merge
Problema nu e un worker, ci suma lor. Un limitator comun, respectarea Retry-After și trimiterea în loturi țin rata sub limită, iar coada absoarbe vârful. Calculul timpului de golire îți spune dacă limita actuală e suficientă.
Alte forme ale mesajului
Throttling: Rate exceededTooManyRequestsException429 Too Many Requests (Retry-After: 2)
Cum o eviți pe viitor
- Tratează limita furnizorului ca o capacitate fixă și calculează timpul de golire a cozii la vârf.
- Folosește un limitator comun pentru toate instanțele.
- Respectă
Retry-Afterși folosește backoff exponențial cu jitter. - Monitorizează rata de 429 și vechimea mesajelor din coadă.
Întrebări frecvente
Pot ocoli limita cu mai multe chei de API?
De obicei încalcă termenii furnizorului. Calea corectă e o limită mai mare negociată sau un plan superior.
Ce fac cu mesajele urgente când coada e plină de mesaje de marketing?
Folosește cozi separate pe priorități și împarte limita între ele, ca un cod de autentificare să nu aștepte după o campanie.
Erori înrudite
429 Too Many Requests Clientul a trimis mai multe cereri decât permite limita serverului într-un interval, iar rate limiter-ul le respinge pe cele în plus. Ca utilizator al unui API, încetinește și respectă `Retry-After`; ca proprietar, verifică dacă limita e potrivită pentru traficul legitim și dacă se aplică pe client, nu global. Retry storm: reîncercările fără backoff înmulțesc traficul și țin serviciul căzut La primele erori, toți clienții reîncearcă imediat, de mai multe ori, iar serviciul deja suprasolicitat primește de câteva ori mai mult trafic și nu-și mai poate reveni. Reîncearcă doar erorile temporare, cu backoff exponențial și jitter, cu un număr mic de încercări și un buget de reîncercări. Coada crește continuu (consumer lag / backlog): mesajele se procesează cu ore întârziere Mesajele intră în coadă mai repede decât le pot procesa consumatorii, deci numărul lor (și vechimea celui mai vechi) crește fără oprire. Adaugă consumatori (workeri) sau fă procesarea mai rapidă, și scalează după lungimea cozii, nu după CPU. Învață System Design de la zero, cu exerciții la fiecare lecție
Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.
