...
Eroare System Design · Rate limiting: 429 și cereri respinse

Un robot (scraper) trimite mii de cereri pe secundă și oprește site-ul

Pe scurt

Un scraper, un client cu bug sau un atac trimite mult mai multe cereri decât pot duce serverele, iar utilizatorii normali primesc 502/503. Fără un rate limiter, toate cererile ajung la servere. Pune limitarea în fața load balancer-ului, ca surplusul să fie respins ieftin, cu 429.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

Graficul arată un salt brusc de cereri, adesea de la câteva adrese IP sau de la același user agent, urmat de CPU la 100%, latență mare și erori pentru toți. Serverele nu au cum să deosebească cererile bune de cele abuzive; le tratează pe toate până cad.

Un rate limiter pus la intrare numără cererile (per IP, per utilizator, per cheie de API sau total) și le respinge pe cele peste limită înainte să consume resurse scumpe. Respingerea costă aproape nimic: un răspuns 429, fără interogări în bază.

Rate limiting-ul nu e o apărare completă împotriva unui atac DDoS mare (pentru asta există protecția furnizorului, WAF-ul și CDN-ul), dar oprește clienții scăpați de sub control și scraper-ele, care sunt cauza cea mai frecventă a acestor incidente.

De ce apare: cauzele frecvente

1Niciun fel de limită la intrare

Greșit
client -> load balancer -> servere
# un robot: 9.000 cereri/s, capacitatea: ~4.000
Corect
client -> rate limiter (limită 3.000/s) -> load balancer -> servere

Surplusul e respins la intrare, iar serverele rămân în zona de încărcare sigură.

2Limitare implementată în fiecare server, în memorie

Greșit
// contor în memoria fiecărei instanțe: 4 instanțe = limită de 4 ori mai mare
const contor = new Map();
Corect
// contor comun în Redis (INCR + EXPIRE) sau rate limiter dedicat în față

Contoarele locale nu văd traficul celorlalte instanțe, iar cererile ajung oricum la servere înainte să fie respinse.

Repară tu

Repară eroarea, direct în pagină

Un robot trimite cereri astfel încât traficul total ajunge la 9.000 de citiri pe secundă, iar sistemul duce în siguranță aproximativ 3.000. Utilizatorii primesc erori. Protejează sistemul: toate cererile trec printr-un rate limiter cu limita de cel mult 3.000 de cereri pe secundă, toate componentele sub 80%, fără SPOF.

Indiciu

Limitatorul trebuie pus înaintea load balancer-ului, iar cererile nu trebuie să-l poată ocoli.

Alte forme ale mesajului

  • Too many requests from this IP, please try again later.
  • CPU 100% la un val de cereri de la aceeași adresă

Cum o eviți pe viitor

  • Pune un rate limiter la intrare încă de la primele versiuni ale API-ului.
  • Limitează per client (IP, utilizator, cheie de API), cu limite diferite pe rute scumpe (login, căutare).
  • Folosește CDN-ul și WAF-ul furnizorului pentru atacurile mari.
  • Alertează pe numărul de cereri respinse, ca să vezi atacurile.

Întrebări frecvente

Rate limiter-ul nu încetinește toate cererile?

Adaugă aproximativ o milisecundă pe cerere. E un preț mic față de alternativa în care un singur client poate opri sistemul pentru toți.

Cum aleg limita?

Pornește de la capacitatea măsurată a sistemului (cu marjă) pentru limita totală și de la comportamentul unui utilizator normal pentru limita per client. Ajustează după ce vezi traficul real.

Erori înrudite

← Toate erorile System Design

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață System Design de la zero, cu exerciții la fiecare lecție

Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.