anthropic.BadRequestError: Error code: 400 - max_tokens: 200000 > 128000, which is the maximum allowed number of output tokens for claude-haiku-5-5
Ai cerut un `max_tokens` mai mare decât poate genera modelul într-un răspuns. Pune o valoare sub limita modelului, pe măsura răspunsului de care ai nevoie (de exemplu 1000–4000 pentru texte obișnuite), și verifică `stop_reason` ca să știi dacă răspunsul a fost tăiat.
Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la
Ce înseamnă
max_tokens e plafonul pentru tokenii generați în răspuns, iar fiecare model are o limită maximă de ieșire, mult mai mică decât fereastra de context (cât poate citi). Mesajul compară valoarea ta cu limita modelului și îți spune modelul.
Eroarea apare când cineva pune o valoare uriașă „ca să nu se taie niciodată răspunsul” sau confundă limita de ieșire cu fereastra de context. Plătești doar tokenii generați efectiv, deci un plafon mare nu costă în sine, dar API-ul refuză o valoare peste limita modelului. Valorile foarte mari au și alt dezavantaj: SDK-ul poate cere streaming pentru cereri care ar dura foarte mult.
Alege max_tokens după răspunsul așteptat, cu o marjă, și verifică stop_reason: dacă e max_tokens, răspunsul a fost tăiat și poți mări plafonul sau poți cere un răspuns mai concis.
De ce apare: cauzele frecvente
1Valoare uriașă, „ca să fie”
r = client.messages.create(model=MODEL, max_tokens=200000, messages=mesaje)r = client.messages.create(model=MODEL, max_tokens=2000, messages=mesaje)
if r.stop_reason == "max_tokens":
print("Răspunsul a fost tăiat")O limită realistă e acceptată; stop_reason îți spune dacă a fost suficientă.
2Fereastra de context confundată cu limita de ieșire
MAX_TOKENS = 1_000_000 # contextul modeluluiMAX_TOKENS = 4000 # cât poate avea răspunsulContextul e cât citește modelul; max_tokens e cât scrie. Sunt limite diferite.
Repară eroarea, direct în pagină
Codul de mai jos dă BadRequestError: ... max_tokens: 200000 > 128000, which is the maximum allowed number of output tokens .... Repară apelul cu max_tokens=2000 și, după răspuns, afișează textul și tăiat: True/False (dacă stop_reason este max_tokens).
import anthropic
MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()
r = client.messages.create(
model=MODEL,
max_tokens=200000,
messages=[{"role": "user", "content": "Scrie o descriere scurtă pentru o cafetieră espresso de 15 bari."}],
)
print(r.content[0].text)
print("tăiat:", r.stop_reason == "max_tokens")Cafetieră espresso cu presiune de 15 bari, pentru o cremă densă și un gust intens, în mai puțin de un minut. tăiat: False
Indiciu
O limită realistă pentru un răspuns de câteva paragrafe e de ordinul miilor, nu al sutelor de mii.
Reparația
import anthropic
MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()
r = client.messages.create(
model=MODEL,
max_tokens=2000,
messages=[{"role": "user", "content": "Scrie o descriere scurtă pentru o cafetieră espresso de 15 bari."}],
)
print(r.content[0].text)
print("tăiat:", r.stop_reason == "max_tokens")De ce merge
Modelul nu poate genera mai mult de 128.000 de tokeni într-un răspuns, deci API-ul refuză cererea cu 200.000. Pentru o descriere de produs, 2000 de tokeni sunt mai mult decât suficienți, iar stop_reason confirmă că răspunsul nu a fost tăiat. Plătești oricum doar tokenii generați.
Alte forme ale mesajului
anthropic.BadRequestError: Error code: 400 - invalid_request_error: max_tokens: 200000 > 128000, which is the maximum allowed number of output tokens for claude-haiku-5-5
Cum o eviți pe viitor
- Ține
max_tokensîntr-o constantă potrivită fiecărui tip de cerere (chat, rezumat, extragere). - Verifică
stop_reason == "max_tokens"și loghează răspunsurile tăiate. - Pentru texte foarte lungi, generează pe bucăți sau folosește streaming.
- Verifică limita de ieșire a modelului în documentație când schimbi modelul: modele diferite au limite diferite.
Întrebări frecvente
Plătesc pentru max_tokens chiar dacă răspunsul e scurt?
Nu. Plătești tokenii generați efectiv. max_tokens e doar plafonul.
Unde văd limita de ieșire a unui model?
În pagina de modele din documentația furnizorului. Fiecare model are o limită de context (intrare) și una de ieșire.
Erori înrudite
TypeError: Missing required arguments; Expected either ('max_tokens', 'messages' and 'model') or ('max_tokens', 'messages', 'model' and 'stream') arguments to be given Apelul `client.messages.create(...)` nu are unul dintre parametrii obligatorii, de cele mai multe ori `max_tokens`. La API-ul Claude, `model`, `max_tokens` și `messages` sunt obligatorii: adaugă `max_tokens=500` (sau cât îți trebuie) în apel. json.decoder.JSONDecodeError: Unterminated string starting at: line 1 column 95 (char 94) JSON-ul de la model e tăiat la mijloc: răspunsul s-a oprit la `max_tokens` (`stop_reason == "max_tokens"`) înainte să închidă ghilimelele și acoladele. Mărește `max_tokens`, verifică `stop_reason` înainte de `json.loads` și cere câmpuri mai scurte. anthropic.BadRequestError: Error code: 400 - prompt is too long: 1048712 tokens > 1000000 maximum Tot ce trimiți (system prompt, istoricul conversației, documentele, tool-urile) depășește fereastra de context a modelului. Scurtează cererea: păstrează doar ultimele mesaje, rezumă istoricul vechi și trimite doar bucățile relevante din documente (RAG), nu documentele întregi. Învață Aplicații AI cu LLM de la zero, cu exerciții la fiecare lecție
Curs Aplicații AI cu Claude și OpenAI: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 8 lecții sunt gratuite.
