...
Eroare Aplicații AI cu LLM · Fereastra de context și max_tokens

TypeError: Messages.count_tokens() got an unexpected keyword argument 'max_tokens'

Pe scurt

client.messages.count_tokens numără doar tokenii de intrare ai unei cereri, deci nu acceptă max_tokens (și nici stream sau stop_sequences). Trimite-i doar model, messages și, dacă există, system și tools; max_tokens rămâne pentru messages.create.

Explicat de Tudor Andrei Dumitrescu, Senior Software Developer, fondatorul Academiei ProgramatorilorActualizat la

Ce înseamnă

count_tokens primește aceeași conversație pe care urmează s-o trimiți și îți spune câți tokeni de intrare are, înainte să plătești generarea. Parametrii acceptați sunt cei care influențează intrarea: model, messages, system, tools, tool_choice și thinking.

max_tokens privește răspunsul, care nu se generează la numărare, așa că funcția nu-l are în semnătură, iar Python aruncă TypeError înainte de orice cerere.

Greșeala apare când construiești un singur dicționar de parametri (parametri = {...}) și îl dai ambelor funcții cu **parametri. Separă parametrii de intrare de cei de generare.

De ce apare: cauzele frecvente

1Aceiași parametri pentru numărare și generare

Greșit
PYTHON
p = {"model": MODEL, "max_tokens": 500, "system": SYSTEM, "messages": mesaje}
n = client.messages.count_tokens(**p)
Corect
PYTHON
intrare = {"model": MODEL, "system": SYSTEM, "messages": mesaje}
n = client.messages.count_tokens(**intrare)
r = client.messages.create(**intrare, max_tokens=500)

Parametrii de intrare se pot refolosi; max_tokens se adaugă doar la generare.

2Apel copiat din messages.create

Greșit
PYTHON
n = client.messages.count_tokens(model=MODEL, max_tokens=500, messages=mesaje)
Corect
PYTHON
n = client.messages.count_tokens(model=MODEL, messages=mesaje)

Numărarea nu generează nimic, deci nu are nevoie de limita răspunsului.

Repară tu

Repară eroarea, direct în pagină

Înainte de un apel mare, programul numără tokenii cu client.messages.count_tokens, dar cade cu count_tokens() got an unexpected keyword argument 'max_tokens'. Repară numărarea: trimite-i doar model, system și messages, păstrând max_tokens la messages.create. Programul afișează Tokeni de intrare: <n> și răspunsul, dacă intrarea are sub 5000 de tokeni.

Codul care dă eroarea
PYTHON
import anthropic

MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()
SYSTEM = "Răspunzi la întrebări despre contractul de abonament, citând paragraful."
contract = "\n".join(f"Paragraful {i}: clauză standard a contractului de abonament." for i in range(1, 30))
mesaje = [{"role": "user", "content": contract + "\n\nCe spune paragraful 4 despre prelungire?"}]

n = client.messages.count_tokens(model=MODEL, max_tokens=500, system=SYSTEM, messages=mesaje)
print("Tokeni de intrare:", n.input_tokens)
if n.input_tokens < 5000:
    r = client.messages.create(model=MODEL, max_tokens=500, system=SYSTEM, messages=mesaje)
    print(r.content[0].text)
După reparație, programul afișează
Tokeni de intrare: 566
Paragraful 4 spune că abonamentul se prelungește automat dacă nu e anulat cu 30 de zile înainte.
Indiciu

Scoate max_tokens=500 din apelul count_tokens.

Alte forme ale mesajului

  • TypeError: Messages.count_tokens() got an unexpected keyword argument 'stream'
  • TypeError: Messages.count_tokens() got an unexpected keyword argument 'stop_sequences'

Cum o eviți pe viitor

  • Ține separat dicționarul cu parametrii de intrare și adaugă max_tokens și ceilalți parametri de generare doar la create.
  • Folosește count_tokens înainte de apelurile mari, ca să decizi dacă scurtezi istoricul sau documentele.
  • Bugetul total (intrare + max_tokens) trebuie să încapă în fereastra de context a modelului.

Întrebări frecvente

count_tokens costă bani?

Numărarea tokenilor e gratuită, dar are limite proprii de rată. Nu o folosi la fiecare tastă apăsată, ci înainte de cererile care pot fi mari.

Rezultatul e exact cât voi plăti?

E o estimare foarte apropiată a tokenilor de intrare; valoarea facturată exactă o găsești după apel în r.usage.input_tokens.

Erori înrudite

← Toate erorile Aplicații AI cu LLM

Tudor Andrei Dumitrescu
Cine a explicat eroarea

Tudor Andrei Dumitrescu

Senior Software Developer · fondatorul Academiei Programatorilor

LinkedIn
  1. 2019 Junior JavaCognizant Softvision
  2. 2021 Mid JavaCognizant Softvision
  3. 2022 Team LeaderEndava
  4. 2023 Senior Software DeveloperUniCredit
  5. Acum Senior Software DeveloperHCLTech
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu
Certificat de formator autorizatMinisterul Muncii și Ministerul Educației · 2022
Certificat de absolvire Instructor / Preparator formare, Tudor Andrei Dumitrescu

Certificat de formator autorizat · Ministerul Muncii și Ministerul Educației · 2022

Din 2020 construiește Academia Programatorilor, iar din 2026 și JoburiIT.ro. Fiecare eroare de aici a fost reprodusă în editorul nostru: codul greșit chiar dă mesajul din titlu, iar reparația chiar funcționează.

Învață Aplicații AI cu LLM de la zero, cu exerciții la fiecare lecție

Curs Aplicații AI cu Claude și OpenAI: lecții scurte, fiecare cu un exercițiu verificat automat, direct în browser. Primele 8 lecții sunt gratuite.