...
Eroare System Design · SPOF, căderi în cascadă, securitate și monitorizare

Când pică un server, celelalte se supraîncarcă și cad și ele (fără capacitate N+1)

Pe scurt

Ai mai multe instanțe, dar fiecare rulează la 60–70%: când una cade, traficul ei se mută pe celelalte, care trec de 100% și încep să cadă la rândul lor. Dimensionează pentru N+1: restul instanțelor trebuie să ducă tot traficul fără una (sau fără o zonă întreagă).

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

Redundanța nu e doar un număr de instanțe, ci și capacitate de rezervă. Cu 2 servere la 65% fiecare, sistemul arată sănătos. Când unul cade, celălalt primește 130% din capacitate: latența explodează, health check-urile încep să eșueze și load balancer-ul îl scoate și pe el. Rezultatul e o cădere totală, pornită de căderea unei singure instanțe.

Regula N+1: dacă ai nevoie de N instanțe pentru vârful de trafic, rulezi N+1. Pentru toleranța la căderea unei zone întregi (din 3), fiecare zonă trebuie să poată duce jumătate din trafic, deci rulezi la cel mult ~66% per zonă.

Autoscalarea ajută doar parțial: pornirea unei instanțe noi durează minute, timp în care cele rămase sunt deja supraîncărcate.

De ce apare: cauzele frecvente

1Două instanțe încărcate peste 50%

Greșit
# 2 servere × 1.000 cereri/s, trafic 1.300 cereri/s -> 65% fiecare
# la căderea unuia: 130%
Corect
# 3 servere × 1.000 cereri/s -> 43% fiecare
# la căderea unuia: 65%

Cu o instanță în plus, căderea uneia lasă celelalte sub limită.

2Autoscalare ca singura rezervă

Greșit
minReplicas: 2   # la vârf, 70% CPU
Corect
minReplicas: 3   # rezervă pentru o cădere
maxReplicas: 10

Rezerva trebuie să existe deja când pică o instanță, nu după ce pornește una nouă.

Repară tu

Repară eroarea, direct în pagină

Cele 2 servere de aplicație rulează la ~65%. Simulează căderea unuia: celălalt trece de 100%. Fă sistemul să supraviețuiască pierderii oricărei instanțe fără să se supraîncarce.

Indiciu

Calculează încărcarea fiecărui server când lipsește unul.

Alte forme ale mesajului

  • Cascading failure after instance loss
  • Target group: all targets unhealthy

Cum o eviți pe viitor

  • Calculează încărcarea fiecărei instanțe cu una (sau o zonă) lipsă.
  • Rulează N+1 instanțe pentru vârful de trafic.
  • Testează căderea unei instanțe sub încărcare reală.
  • Nu te baza doar pe autoscalare pentru rezervă.

Întrebări frecvente

Nu e scump să ții instanțe în plus?

Costul unei instanțe în plus e de obicei mult mai mic decât al unei căderi totale. La multe instanțe, rezerva relativă scade: N+1 la 10 instanțe e doar 10% în plus.

Ce înseamnă N+2?

Rezervă pentru două căderi simultane, de exemplu o instanță în mentenanță și una căzută. Se folosește la sistemele critice.

Erori înrudite

← Toate erorile System Design

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață System Design de la zero, cu exerciții la fiecare lecție

Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.