Un robot (scraper) trimite mii de cereri pe secundă și oprește site-ul
Un scraper, un client cu bug sau un atac trimite mult mai multe cereri decât pot duce serverele, iar utilizatorii normali primesc 502/503. Fără un rate limiter, toate cererile ajung la servere. Pune limitarea în fața load balancer-ului, ca surplusul să fie respins ieftin, cu 429.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
Graficul arată un salt brusc de cereri, adesea de la câteva adrese IP sau de la același user agent, urmat de CPU la 100%, latență mare și erori pentru toți. Serverele nu au cum să deosebească cererile bune de cele abuzive; le tratează pe toate până cad.
Un rate limiter pus la intrare numără cererile (per IP, per utilizator, per cheie de API sau total) și le respinge pe cele peste limită înainte să consume resurse scumpe. Respingerea costă aproape nimic: un răspuns 429, fără interogări în bază.
Rate limiting-ul nu e o apărare completă împotriva unui atac DDoS mare (pentru asta există protecția furnizorului, WAF-ul și CDN-ul), dar oprește clienții scăpați de sub control și scraper-ele, care sunt cauza cea mai frecventă a acestor incidente.
De ce apare: cauzele frecvente
1Niciun fel de limită la intrare
client -> load balancer -> servere
# un robot: 9.000 cereri/s, capacitatea: ~4.000client -> rate limiter (limită 3.000/s) -> load balancer -> servereSurplusul e respins la intrare, iar serverele rămân în zona de încărcare sigură.
2Limitare implementată în fiecare server, în memorie
// contor în memoria fiecărei instanțe: 4 instanțe = limită de 4 ori mai mare
const contor = new Map();// contor comun în Redis (INCR + EXPIRE) sau rate limiter dedicat în fațăContoarele locale nu văd traficul celorlalte instanțe, iar cererile ajung oricum la servere înainte să fie respinse.
Repară eroarea, direct în pagină
Un robot trimite cereri astfel încât traficul total ajunge la 9.000 de citiri pe secundă, iar sistemul duce în siguranță aproximativ 3.000. Utilizatorii primesc erori. Protejează sistemul: toate cererile trec printr-un rate limiter cu limita de cel mult 3.000 de cereri pe secundă, toate componentele sub 80%, fără SPOF.
Indiciu
Limitatorul trebuie pus înaintea load balancer-ului, iar cererile nu trebuie să-l poată ocoli.
Reparația
1. Adaugă Rate limiter (2 instanțe, limită 3.000) și conectează Client web → Rate limiter → Load balancer. 2. Șterge conexiunea Client web → Load balancer.
Rezultat: ~6.000 de cereri pe secundă respinse, serverele sub 80%.
De ce merge
Fără limitator, toate cele 9.000 de cereri ajungeau la servere. Cu rate limiter-ul în față (2 instanțe, limită 3.000), surplusul e respins cu 429, iar serverele primesc doar cât pot duce.
Alte forme ale mesajului
Too many requests from this IP, please try again later.CPU 100% la un val de cereri de la aceeași adresă
Cum o eviți pe viitor
- Pune un rate limiter la intrare încă de la primele versiuni ale API-ului.
- Limitează per client (IP, utilizator, cheie de API), cu limite diferite pe rute scumpe (login, căutare).
- Folosește CDN-ul și WAF-ul furnizorului pentru atacurile mari.
- Alertează pe numărul de cereri respinse, ca să vezi atacurile.
Întrebări frecvente
Rate limiter-ul nu încetinește toate cererile?
Adaugă aproximativ o milisecundă pe cerere. E un preț mic față de alternativa în care un singur client poate opri sistemul pentru toți.
Cum aleg limita?
Pornește de la capacitatea măsurată a sistemului (cu marjă) pentru limita totală și de la comportamentul unui utilizator normal pentru limita per client. Ajustează după ce vezi traficul real.
Erori înrudite
429 Too Many Requests Clientul a trimis mai multe cereri decât permite limita serverului într-un interval, iar rate limiter-ul le respinge pe cele în plus. Ca utilizator al unui API, încetinește și respectă `Retry-After`; ca proprietar, verifică dacă limita e potrivită pentru traficul legitim și dacă se aplică pe client, nu global. Rate limiter-ul nu respinge nimic: cererile îl ocolesc direct spre load balancer Ai pus un rate limiter, dar o parte din trafic ajunge la load balancer sau la servere pe altă cale (adresa directă a load balancer-ului, un domeniu vechi, un IP public al serverelor), deci limitarea nu se aplică. Închide toate intrările care nu trec prin limitator. 503 Service Unavailable Serverul (sau load balancer-ul din fața lui) spune că nu poate trata cererea acum: e supraîncărcat, în mentenanță sau nu are nicio instanță sănătoasă. De obicei repari adăugând capacitate (mai multe instanțe, autoscalare) și verificând de ce instanțele sunt marcate nesănătoase. Învață System Design de la zero, cu exerciții la fiecare lecție
Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.
