Rate limiter-ul a căzut și a oprit tot API-ul
Toate cererile trec prin rate limiter, deci dacă rulează într-o singură instanță (sau depinde de un singur Redis), căderea lui oprește întregul API, deși serverele sunt sănătoase. Rulează limitatorul în mai multe instanțe și decide conștient ce se întâmplă când contorul nu e disponibil.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
Orice componentă prin care trec toate cererile e un punct unic de eșec dacă are o singură instanță. Rate limiter-ul e adesea adăugat repede, „doar un nginx în plus” sau un middleware care citește contoarele din Redis, și uitat la planificarea redundanței.
Există două moduri de cădere. Instanța limitatorului cade, deci cererile nu mai au pe unde intra. Sau depozitul de contoare (Redis) devine indisponibil, iar codul limitatorului aruncă excepții și respinge tot (fail closed).
Pentru un rate limiter de protecție, de obicei e mai bine să lași cererile să treacă dacă depozitul nu răspunde (fail open), cu alertă, decât să oprești tot serviciul. Pentru limite legate de bani (apeluri plătite, cote de cont) poate fi mai bine invers. Decizia trebuie luată explicit.
De ce apare: cauzele frecvente
1O singură instanță în fața întregului API
client -> 1 × rate limiter -> load balancer -> servereclient -> 2+ × rate limiter -> load balancer -> servereCu două instanțe, căderea uneia nu oprește traficul.
2Excepția din Redis respinge toate cererile
long n = redis.incr(cheie); // aruncă excepție dacă Redis e căzut
if (n > LIMITA) return status(429);long n;
try { n = redis.incr(cheie); }
catch (RedisException e) { metrici.inc("ratelimit_fail_open"); return chain.next(); }
if (n > LIMITA) return status(429);Fail open păstrează serviciul disponibil când contorul lipsește; alerta te anunță că protecția e temporar oprită.
Repară eroarea, direct în pagină
Rate limiter-ul din fața API-ului rulează într-o singură instanță și apare ca SPOF în simulare. Elimină punctul unic de eșec fără să renunți la limitare.
Indiciu
Limitatorul scalează ca orice componentă stateless.
Reparația
1. Atinge Rate limiter. 2. Setează Instanțe = 2.
Rezultat: fără SPOF, limitarea rămâne activă.
De ce merge
Cu o singură instanță, căderea limitatorului oprea toate cererile. Cu două instanțe, una poate cădea fără ca API-ul să se oprească, iar limita se aplică în continuare.
Alte forme ale mesajului
RedisConnectionException în filtrul de rate limitingRate limiter unavailable: all requests rejected
Cum o eviți pe viitor
- Rulează orice componentă de pe drumul tuturor cererilor în cel puțin două instanțe.
- Decide și documentează fail open sau fail closed pentru limitator.
- Pune timeout scurt pe accesul la contoare.
- Include limitatorul în testele de cădere.
Întrebări frecvente
Fail open nu e periculos în timpul unui atac?
Pentru câteva minute, riscul e mai mic decât un API complet oprit. Combină-l cu protecția de la marginea rețelei (CDN, WAF), care rămâne activă.
Contoarele trebuie să fie comune tuturor instanțelor?
Pentru limite exacte per utilizator, da (de obicei în Redis). Pentru protecție grosieră, fiecare instanță poate număra local cu limita împărțită la numărul de instanțe.
Erori înrudite
Single point of failure (SPOF): o singură componentă cade și oprește tot site-ul O componentă rulează într-un singur exemplar pe drumul tuturor cererilor (un server de aplicație, o bază fără standby, un singur load balancer), deci căderea ei oprește tot sistemul. Pune cel puțin două instanțe în spatele unui load balancer cu health check sau un standby cu failover automat. Un robot (scraper) trimite mii de cereri pe secundă și oprește site-ul Un scraper, un client cu bug sau un atac trimite mult mai multe cereri decât pot duce serverele, iar utilizatorii normali primesc 502/503. Fără un rate limiter, toate cererile ajung la servere. Pune limitarea în fața load balancer-ului, ca surplusul să fie respins ieftin, cu 429. Învață System Design de la zero, cu exerciții la fiecare lecție
Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.
