...
Eroare System Design · Cache: stampede, date vechi, memorie plină

Rata de hit a cache-ului e mică (sub 50%), iar baza e tot supraîncărcată

Pe scurt

Cache-ul există, dar majoritatea citirilor tot ajung în bază: TTL-ul e prea scurt, cheile sunt prea specifice (conțin parametri care se schimbă), cache-ul e prea mic sau se invalidează prea des. Măsoară rata de hit, mărește TTL-ul acolo unde datele permit și normalizează cheile.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

Rata de hit (hits / (hits + misses)) arată cât din citiri sunt servite din cache. La 30%, 70% din citiri merg tot în bază: ai plătit un cache și o rețea în plus, dar baza e aproape la fel de încărcată. În Redis vezi asta în INFO stats (keyspace_hits, keyspace_misses).

Cauzele frecvente: TTL de câteva secunde pentru date care se schimbă o dată pe zi; chei care includ parametri inutili (produs:42:utm=abc:ts=1699...), deci aceeași dată e salvată sub mii de chei; cache prea mic, cu evacuări constante (evicted_keys crește); invalidarea întregului cache la orice modificare; sau date care chiar nu se repetă (fiecare utilizator citește altceva).

Corectează pe rând: alege TTL-ul după cât de des se schimbă datele, scoate din cheie tot ce nu influențează valoarea, dimensionează memoria și invalidează precis.

De ce apare: cauzele frecvente

1TTL mult prea scurt

Greșit
redis.setex(f'produs:{id}', 10, valoare)   # produsul se schimbă o dată pe zi
Corect
redis.setex(f'produs:{id}', 3600, valoare)
# + invalidare la modificare

Cu un TTL potrivit, aceeași cheie e refolosită de mii de ori înainte să expire.

2Cheie cu parametri irelevanți

Greșit
cheie = f'lista:{categorie}:{request.query_string}'   # include utm_source, ts...
Corect
cheie = f'lista:{categorie}:pagina:{pagina}:sort:{sort}'

Doar parametrii care schimbă rezultatul intră în cheie, deci cererile echivalente împart aceeași intrare.

Repară tu

Repară eroarea, direct în pagină

Cache-ul are TTL de 10 secunde pentru produse care se schimbă o dată pe zi, iar rata de hit e de 30%: baza e peste capacitate. Mărește TTL-ul la cel puțin 10 minute; după corectarea cheilor și a TTL-ului, rata de hit măsurată urcă la 85%. Setează-le și verifică: toate cererile tratate, baza sub 70%.

Indiciu

Ambele valori se setează din panoul cache-ului.

Alte forme ale mesajului

  • keyspace_misses mult mai mare decât keyspace_hits
  • evicted_keys crește continuu

Cum o eviți pe viitor

  • Monitorizează rata de hit și evacuările.
  • Alege TTL-ul după frecvența reală a modificărilor.
  • Construiește cheile doar din parametrii care schimbă rezultatul.
  • Pune în cache doar date citite de mai multe ori.

Întrebări frecvente

Ce rată de hit e bună?

Depinde de date, dar pentru conținut citit des (produse, pagini) se urmăresc de obicei valori mari, peste 80–90%. Important e să o măsori și să știi ce volum ajunge în bază.

Cache-ul ajută la date personale?

Mai puțin: fiecare utilizator citește altceva, deci reutilizarea e mică. Acolo cache-ul ajută mai ales pentru date citite repetat de același utilizator în aceeași sesiune.

Erori înrudite

← Toate erorile System Design

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață System Design de la zero, cu exerciții la fiecare lecție

Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.