...
Eroare Aplicații AI cu LLM · Fereastra de context și max_tokens

anthropic.BadRequestError: Error code: 400 - max_tokens: 200000 > 128000, which is the maximum allowed number of output tokens for claude-haiku-5-5

Pe scurt

Ai cerut un `max_tokens` mai mare decât poate genera modelul într-un răspuns. Pune o valoare sub limita modelului, pe măsura răspunsului de care ai nevoie (de exemplu 1000–4000 pentru texte obișnuite), și verifică `stop_reason` ca să știi dacă răspunsul a fost tăiat.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

max_tokens e plafonul pentru tokenii generați în răspuns, iar fiecare model are o limită maximă de ieșire, mult mai mică decât fereastra de context (cât poate citi). Mesajul compară valoarea ta cu limita modelului și îți spune modelul.

Eroarea apare când cineva pune o valoare uriașă „ca să nu se taie niciodată răspunsul” sau confundă limita de ieșire cu fereastra de context. Plătești doar tokenii generați efectiv, deci un plafon mare nu costă în sine, dar API-ul refuză o valoare peste limita modelului. Valorile foarte mari au și alt dezavantaj: SDK-ul poate cere streaming pentru cereri care ar dura foarte mult.

Alege max_tokens după răspunsul așteptat, cu o marjă, și verifică stop_reason: dacă e max_tokens, răspunsul a fost tăiat și poți mări plafonul sau poți cere un răspuns mai concis.

De ce apare: cauzele frecvente

1Valoare uriașă, „ca să fie”

Greșit
PYTHON
r = client.messages.create(model=MODEL, max_tokens=200000, messages=mesaje)
Corect
PYTHON
r = client.messages.create(model=MODEL, max_tokens=2000, messages=mesaje)
if r.stop_reason == "max_tokens":
    print("Răspunsul a fost tăiat")

O limită realistă e acceptată; stop_reason îți spune dacă a fost suficientă.

2Fereastra de context confundată cu limita de ieșire

Greșit
PYTHON
MAX_TOKENS = 1_000_000   # contextul modelului
Corect
PYTHON
MAX_TOKENS = 4000        # cât poate avea răspunsul

Contextul e cât citește modelul; max_tokens e cât scrie. Sunt limite diferite.

Repară tu

Repară eroarea, direct în pagină

Codul de mai jos dă BadRequestError: ... max_tokens: 200000 > 128000, which is the maximum allowed number of output tokens .... Repară apelul cu max_tokens=2000 și, după răspuns, afișează textul și tăiat: True/False (dacă stop_reason este max_tokens).

Codul care dă eroarea
PYTHON
import anthropic

MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()

r = client.messages.create(
    model=MODEL,
    max_tokens=200000,
    messages=[{"role": "user", "content": "Scrie o descriere scurtă pentru o cafetieră espresso de 15 bari."}],
)
print(r.content[0].text)
print("tăiat:", r.stop_reason == "max_tokens")
După reparație, programul afișează
Cafetieră espresso cu presiune de 15 bari, pentru o cremă densă și un gust intens, în mai puțin de un minut.
tăiat: False
Indiciu

O limită realistă pentru un răspuns de câteva paragrafe e de ordinul miilor, nu al sutelor de mii.

Alte forme ale mesajului

  • anthropic.BadRequestError: Error code: 400 - invalid_request_error: max_tokens: 200000 > 128000, which is the maximum allowed number of output tokens for claude-haiku-5-5

Cum o eviți pe viitor

  • Ține max_tokens într-o constantă potrivită fiecărui tip de cerere (chat, rezumat, extragere).
  • Verifică stop_reason == "max_tokens" și loghează răspunsurile tăiate.
  • Pentru texte foarte lungi, generează pe bucăți sau folosește streaming.
  • Verifică limita de ieșire a modelului în documentație când schimbi modelul: modele diferite au limite diferite.

Întrebări frecvente

Plătesc pentru max_tokens chiar dacă răspunsul e scurt?

Nu. Plătești tokenii generați efectiv. max_tokens e doar plafonul.

Unde văd limita de ieșire a unui model?

În pagina de modele din documentația furnizorului. Fiecare model are o limită de context (intrare) și una de ieșire.

Erori înrudite

← Toate erorile Aplicații AI cu LLM

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață Aplicații AI cu LLM de la zero, cu exerciții la fiecare lecție

Curs Aplicații AI cu Claude și OpenAI: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 8 lecții sunt gratuite.