Rate limit cu fereastră fixă lasă să treacă de două ori limita la schimbarea minutului
Cu algoritmul fixed window, contorul se resetează la începutul fiecărei ferestre, deci un client poate trimite limita întreagă la sfârșitul unei ferestre și încă o dată la începutul următoarei. Folosește sliding window sau token bucket, care urmăresc rata reală.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
Fixed window e cel mai simplu algoritm: un contor per client și per minut (de exemplu cheia Redis rl:client:12:01 cu INCR și EXPIRE). E ieftin și ușor de înțeles, dar are o slăbiciune la granița ferestrelor: limita se aplică pe ferestre calendaristice, nu pe orice interval de 60 de secunde.
Un client care trimite 100 de cereri la 12:00:59 și 100 la 12:01:00 rămâne sub limită în ambele ferestre, deși a trimis 200 de cereri în două secunde. Pentru un endpoint scump (login, generare de rapoarte), asta poate fi exact vârful pe care voiai să-l eviți.
Sliding window (log sau contor ponderat) privește ultimele 60 de secunde la orice moment. Token bucket permite o rafală controlată (mărimea găleții) și apoi o rată constantă. Ambele elimină dublarea de la graniță.
De ce apare: cauzele frecvente
1Contor pe minutul calendaristic
cheie = f"rl:{client}:{acum:%H%M}"
n = redis.incr(cheie); redis.expire(cheie, 60)
if n > 100: return 429# sliding window log: păstrezi momentele cererilor din ultimele 60 s
redis.zremrangebyscore(cheie, 0, acum - 60)
if redis.zcard(cheie) >= 100: return 429
redis.zadd(cheie, {id_cerere: acum}); redis.expire(cheie, 60)Fereastra glisantă numără cererile din ultimele 60 de secunde, indiferent unde cade granița minutului.
2Rafale tratate fără găleată
# fereastră fixă de 1 s cu limită 10: rafala de 20 la 0,9 s + 0,1 s trece# token bucket: capacitate 20, reumplere 10 jetoane/sToken bucket permite explicit o rafală de mărime cunoscută, apoi limitează la rata medie.
Repară eroarea, direct în pagină
Rate limiter-ul folosește fereastră fixă, iar la fiecare schimbare de minut un client automat reușește să trimită dublul limitei. Calculează în tab-ul Quiz câte cereri trec în exemplul dat, apoi schimbă algoritmul limitatorului cu unul care nu are această problemă.
Indiciu
Algoritmii care urmăresc rata reală nu depind de granița minutului.
Reparația
- Quiz: 200 de cereri.
- Rate limiter → Algoritm = Fereastră glisantă (sau Token bucket).
Rezultat: rafala de la granița minutului nu mai trece.
De ce merge
La fereastra fixă, contorul se golește la fiecare minut, deci două rafale de câte 100, de o parte și de alta a graniței, trec amândouă. Sliding window (sau token bucket) urmărește cererile din ultimele 60 de secunde și oprește a doua rafală.
Alte forme ale mesajului
Burst at window boundary (fixed window rate limiting)
Cum o eviți pe viitor
- Pentru endpoint-uri sensibile folosește sliding window sau token bucket.
- Fixed window e acceptabil pentru limite grosiere, unde dublarea ocazională nu contează.
- Testează limita cu rafale la granița ferestrei, nu doar cu trafic uniform.
- Documentează pentru clienți ce algoritm folosești și ce rafale sunt permise.
Întrebări frecvente
De ce mai folosește cineva fereastra fixă?
Pentru că e cea mai ieftină: o singură cheie și un INCR per cerere. Pentru limite mari și protecție grosieră, dezavantajul contează puțin.
Token bucket sau sliding window?
Token bucket e potrivit când vrei să permiți rafale scurte (un utilizator care deschide o pagină cu multe cereri). Sliding window e mai strict și mai ușor de explicat clienților.
Erori înrudite
429 Too Many Requests Clientul a trimis mai multe cereri decât permite limita serverului într-un interval, iar rate limiter-ul le respinge pe cele în plus. Ca utilizator al unui API, încetinește și respectă `Retry-After`; ca proprietar, verifică dacă limita e potrivită pentru traficul legitim și dacă se aplică pe client, nu global. Un robot (scraper) trimite mii de cereri pe secundă și oprește site-ul Un scraper, un client cu bug sau un atac trimite mult mai multe cereri decât pot duce serverele, iar utilizatorii normali primesc 502/503. Fără un rate limiter, toate cererile ajung la servere. Pune limitarea în fața load balancer-ului, ca surplusul să fie respins ieftin, cu 429. Învață System Design de la zero, cu exerciții la fiecare lecție
Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.
