...
Eroare System Design · Rate limiting: 429 și cereri respinse

Rate limit cu fereastră fixă lasă să treacă de două ori limita la schimbarea minutului

Pe scurt

Cu algoritmul fixed window, contorul se resetează la începutul fiecărei ferestre, deci un client poate trimite limita întreagă la sfârșitul unei ferestre și încă o dată la începutul următoarei. Folosește sliding window sau token bucket, care urmăresc rata reală.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

Fixed window e cel mai simplu algoritm: un contor per client și per minut (de exemplu cheia Redis rl:client:12:01 cu INCR și EXPIRE). E ieftin și ușor de înțeles, dar are o slăbiciune la granița ferestrelor: limita se aplică pe ferestre calendaristice, nu pe orice interval de 60 de secunde.

Un client care trimite 100 de cereri la 12:00:59 și 100 la 12:01:00 rămâne sub limită în ambele ferestre, deși a trimis 200 de cereri în două secunde. Pentru un endpoint scump (login, generare de rapoarte), asta poate fi exact vârful pe care voiai să-l eviți.

Sliding window (log sau contor ponderat) privește ultimele 60 de secunde la orice moment. Token bucket permite o rafală controlată (mărimea găleții) și apoi o rată constantă. Ambele elimină dublarea de la graniță.

De ce apare: cauzele frecvente

1Contor pe minutul calendaristic

Greșit
cheie = f"rl:{client}:{acum:%H%M}"
n = redis.incr(cheie); redis.expire(cheie, 60)
if n > 100: return 429
Corect
# sliding window log: păstrezi momentele cererilor din ultimele 60 s
redis.zremrangebyscore(cheie, 0, acum - 60)
if redis.zcard(cheie) >= 100: return 429
redis.zadd(cheie, {id_cerere: acum}); redis.expire(cheie, 60)

Fereastra glisantă numără cererile din ultimele 60 de secunde, indiferent unde cade granița minutului.

2Rafale tratate fără găleată

Greșit
# fereastră fixă de 1 s cu limită 10: rafala de 20 la 0,9 s + 0,1 s trece
Corect
# token bucket: capacitate 20, reumplere 10 jetoane/s

Token bucket permite explicit o rafală de mărime cunoscută, apoi limitează la rata medie.

Repară tu

Repară eroarea, direct în pagină

Rate limiter-ul folosește fereastră fixă, iar la fiecare schimbare de minut un client automat reușește să trimită dublul limitei. Calculează în tab-ul Quiz câte cereri trec în exemplul dat, apoi schimbă algoritmul limitatorului cu unul care nu are această problemă.

Indiciu

Algoritmii care urmăresc rata reală nu depind de granița minutului.

Alte forme ale mesajului

  • Burst at window boundary (fixed window rate limiting)

Cum o eviți pe viitor

  • Pentru endpoint-uri sensibile folosește sliding window sau token bucket.
  • Fixed window e acceptabil pentru limite grosiere, unde dublarea ocazională nu contează.
  • Testează limita cu rafale la granița ferestrei, nu doar cu trafic uniform.
  • Documentează pentru clienți ce algoritm folosești și ce rafale sunt permise.

Întrebări frecvente

De ce mai folosește cineva fereastra fixă?

Pentru că e cea mai ieftină: o singură cheie și un INCR per cerere. Pentru limite mari și protecție grosieră, dezavantajul contează puțin.

Token bucket sau sliding window?

Token bucket e potrivit când vrei să permiți rafale scurte (un utilizator care deschide o pagină cu multe cereri). Sliding window e mai strict și mai ușor de explicat clienților.

Erori înrudite

← Toate erorile System Design

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață System Design de la zero, cu exerciții la fiecare lecție

Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.