...
Eroare System Design · Servere supraîncărcate, scalare și sesiuni

Autoscalarea nu ține pasul cu vârful de trafic (instanțele ajung la maxim, cererile tot se pierd)

Pe scurt

Grupul de autoscalare a ajuns la numărul maxim de instanțe sau pornește instanțe noi prea încet, iar la vârf serverele rămân supraîncărcate. Ridică limita maximă la cât cere vârful real, scalează după o metrică care reacționează devreme și ține un minim care acoperă creșterea bruscă.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

Autoscalarea adaugă instanțe când o metrică (CPU, cereri pe instanță, lungimea cozii) trece de un prag și le scoate când scade. Două lucruri o fac să nu ajute la vârf.

Primul e limita maximă: dacă grupul are max = 4, iar vârful cere 8 instanțe, autoscalarea se oprește la 4 și restul cererilor se pierd. Limita se pune de obicei din motive de cost, apoi traficul crește și nimeni nu o mai actualizează.

Al doilea e viteza: o instanță nouă are nevoie de minute ca să pornească (imagine, aplicație, warm-up), iar metrica medie pe 5 minute reacționează târziu. La un vârf brusc (o campanie, o notificare trimisă tuturor), instanțele noi ajung după ce utilizatorii au primit deja erori.

În istoricul grupului (de exemplu Activity în AWS Auto Scaling) vezi dacă a atins maximul sau dacă a pornit instanțe cu întârziere.

De ce apare: cauzele frecvente

1Limita maximă prea mică pentru vârf

Greșit
MinSize: 2
MaxSize: 4          # vârful cere ~8 instanțe
Corect
MinSize: 2
MaxSize: 12
# alertă când grupul stă la MaxSize

Autoscalarea nu poate depăși maximul. Maximul se calculează din vârful așteptat plus o marjă, iar atingerea lui trebuie să dea alertă.

2Vârf cunoscut, dar tratat doar reactiv

Greșit
# campania începe la 20:00, grupul pornește la 2 instanțe
Corect
# acțiune programată: la 19:45 MinSize = 8
# după campanie, MinSize revine la 2

Pentru vârfuri planificate, scalarea programată pregătește capacitatea înainte, fără să aștepte metrica.

Repară tu

Repară eroarea, direct în pagină

Serverul are autoscalare între 2 și 4 instanțe. Seara, la campania de 7.000 de citiri pe secundă, grupul stă la 4 instanțe și se pierd cereri. Ajustează autoscalarea astfel încât și vârful de seară să fie tratat complet.

Indiciu

Autoscalarea alege instanțele între minim și maxim; vezi dacă maximul ajunge pentru vârf.

Alte forme ale mesajului

  • Auto Scaling group reached maximum capacity
  • HorizontalPodAutoscaler: the desired replica count is more than the maximum replica count

Cum o eviți pe viitor

  • Calculează maximul din vârful real plus marjă și revizuiește-l când crește traficul.
  • Alertează când grupul stă la maxim.
  • Scalează după cereri pe instanță sau lungimea cozii, care reacționează mai repede decât CPU-ul mediu.
  • Pentru vârfuri planificate, folosește scalare programată.
  • Redu timpul de pornire al instanțelor (imagini pregătite, warm-up scurt).

Întrebări frecvente

De ce nu pun maximul foarte mare, ca să fiu sigur?

Pentru că un bug sau un atac poate porni zeci de instanțe și o factură mare. Maximul se alege conștient, cu alertă și cu rate limiting în față.

Ce metrică e mai bună decât CPU-ul?

Cereri pe secundă per instanță la servere web, lungimea cozii sau vechimea celui mai vechi mesaj la workeri. Ele cresc imediat cu traficul, înainte ca CPU-ul mediu să reacționeze.

Erori înrudite

← Toate erorile System Design

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață System Design de la zero, cu exerciții la fiecare lecție

Curs System Design: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 10 lecții sunt gratuite.