Clienții văd valori diferite la fiecare reîncărcare (cache local diferit pe fiecare server)
Fiecare server ține datele într-un cache propriu, în memorie, cu expirare independentă, iar load balancer-ul trimite cererile alternativ la servere: după o modificare, clienții văd valori vechi sau noi de la o reîncărcare la alta. Folosește un cache comun (Redis) sau invalidează toate cache-urile locale printr-un mesaj pub/sub.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
Cache-urile locale (un Map în memorie, Caffeine, IMemoryCache, lru-cache) sunt cele mai rapide, fără rețea. Cu mai multe servere, fiecare are însă propria copie, încărcată la alt moment. După o actualizare, serverul A a reîmprospătat deja valoarea, B încă nu: un client care reîncarcă pagina vede prețul alternând între vechi și nou, coșul calculează alt total decât pagina produsului, iar un admin crede că salvarea nu a mers.
E varianta distribuită a problemei datelor vechi în cache, agravată de faptul că serverele nu sunt de acord între ele.
Variante: cache comun (Redis, Memcached) pentru datele care se schimbă; cache local doar pentru date practic statice sau cu TTL de câteva secunde; invalidare activă (la scriere, un mesaj pub/sub spune tuturor serverelor să șteargă cheia); cache pe două niveluri (local scurt + Redis), cu invalidare.
De ce apare: cauzele frecvente
1Cache local cu TTL lung pentru date modificabile
Cache<Long, Pret> preturi = Caffeine.newBuilder()
.expireAfterWrite(Duration.ofMinutes(10)).build();// la modificare:
redis.publish("invalidare:preturi", produsId);
// pe fiecare server, la mesaj:
preturi.invalidate(produsId);Toate serverele șterg valoarea veche imediat după modificare.
2Date care se schimbă des, în cache local
# stocul ținut 5 minute în memoria fiecărui server# stocul în Redis (comun), citit de toate servereleO singură copie, deci toate serverele văd aceeași valoare.
Repară eroarea, direct în pagină
Răspunde la cele trei întrebări despre prețurile care alternează la reîncărcarea paginii.
Indiciu
Câte copii ale prețului există în sistem?
Reparația
- q1: Prețuri diferite, în funcție de serverul care răspunde.
- q2: cache comun, invalidare prin pub/sub, TTL scurt.
- q3: Adevărat.
De ce merge
Fiecare server are propria copie, expirată la alt moment. Un cache comun sau invalidarea activă aduc toate serverele la aceeași valoare.
Alte forme ale mesajului
Inconsistent data between instancesPrețul diferă între pagina produsului și coș
Cum o eviți pe viitor
- Folosește cache local doar pentru date practic statice.
- Folosește un cache comun pentru datele care se schimbă.
- Invalidează activ cache-urile locale la modificări.
- Testează cu cel puțin două instanțe.
Întrebări frecvente
De ce nu observ problema local?
Pentru că local rulezi o singură instanță. Inconsecvența apare doar cu mai multe servere în spatele load balancer-ului.
Cache local + Redis are sens?
Da, pentru citiri foarte dese: un nivel local cu TTL de câteva secunde în fața lui Redis, plus invalidare prin pub/sub.
Erori înrudite
Date vechi în cache după actualizare (prețul vechi apare încă pe site) Ai modificat datele în bază, dar cache-ul încă ține valoarea veche și o servește până expiră. La orice scriere, invalidează (șterge) cheia din cache imediat după scrierea în bază și păstrează un TTL rezonabil ca plasă de siguranță. Utilizatorii sunt delogați aleatoriu după ce ai adăugat al doilea server Sesiunile sunt ținute în memoria fiecărui server, iar load balancer-ul trimite cererile următoare la alt server, care nu cunoaște sesiunea, deci utilizatorul pare delogat sau coșul se golește. Mută sesiunile într-un loc comun (Redis) sau folosește tokenuri, ca serverele să fie stateless. Hot key: o singură cheie Redis primește tot traficul și supraîncarcă un nod O cheie foarte populară (promoția zilei, contorul unui clip viral) stă pe un singur nod al cache-ului, deci tot traficul ei lovește acel nod, oricât de mare ar fi clusterul. Adaugă un cache local cu TTL scurt, copiază cheia pe mai multe chei cu sufix sau citește de pe replici. Învață System Design de la zero, cu exerciții la fiecare lecție
Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.
