...
← Curs Aplicații AI cu Claude și OpenAI: toate lecțiile
Lecția 8 · Cum funcționează LLM-urile

Recapitulare: planul unei aplicații AI

Ai terminat primul modul: știi cum generează un model text, ce sunt tokenii, cum funcționează contextul, ce controlezi cu effort, de unde vin halucinațiile și cât costă un apel. În această lecție legi totul într-un plan pe care îl poți aplica oricărei idei de aplicație AI și construiești primul tău mini-proiect: un asistent care rezumă emailuri și îți spune cât a costat.

Ce ai învățat în modulul 1

ConceptCe rețiiÎn cod
Generareamodelul prezice următorul token, pas cu passtop_reason: end_turn sau max_tokens
Tokeniiunitatea de cost și de limită; româna consumă mai mulțicount_tokens(...).input_tokens, usage
ContextulAPI-ul nu ține minte; retrimiți istoricullista messages, alternând user / assistant
Variațiatemperature nu mai e acceptat la Claudeinstrucțiuni + output_config={"effort": "low"}
Halucinațiiledate în prompt, voie la „Nu știu”, verificăridocumentul între <document> și </document>
Costultokeni × preț / 1.000.000, intrare și ieșire separatcost_apel(usage, model)

Planul unei aplicații, în 5 întrebări

Înainte să scrii cod, răspunde la cinci întrebări. Îți iau zece minute și te scutesc de săptămâni de muncă în direcția greșită.

1. Problemace sarcină repetitivărezolvi și pentru cine2. Datelece trebuie să vadămodelul (context)3. Modelulcel mai mic caretrece testele4. Costultokeni × preț ×apeluri / utilizator5. Riscurilehalucinații, datepersonale, text tăiatPlanul unei aplicații AI, înainte de prima linie de codExemplu: rezumatul emailurilor unui birou de contabilitateemailurile zilei → Claude Haiku 5.5, efort low → o frază pe email → cost total afișat
Cele cinci decizii ale unei aplicații AI (problema, datele, modelul, costul, riscurile), aplicate unui asistent de rezumate pentru un birou de contabilitate.
ÎntrebareaPentru asistentul de rezumate
Ce problemă rezolv și pentru cine?Contabilii primesc zeci de emailuri pe zi; vor să vadă dintr-o privire ce cere fiecare client.
Ce date trebuie să vadă modelul?Doar textul emailului. Nimic din baza de date a firmei.
Ce model folosesc?Claude Haiku 5.5 cu efort low: rezumatul e o sarcină simplă.
Cât costă pe utilizator?~100 de tokeni intrare + ~30 ieșire pe email; sub un cent pe zi pentru 100 de emailuri.
Ce riscuri am?Rezumat greșit (contabilul vede și emailul original), text tăiat (verific stop_reason), date personale (modulul 8).

Scheletul de cod: o funcție pentru o sarcină

Într-o aplicație reală, fiecare sarcină AI stă într-o funcție mică: primește datele, construiește promptul, apelează API-ul și întoarce rezultatul împreună cu usage, ca restul programului să poată urmări costul.

import anthropic

MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()


def rezuma(text):
    """Întoarce (rezumatul, usage) pentru un email."""
    raspuns = client.messages.create(
        model=MODEL,
        max_tokens=150,                      # o frază ajunge; limitează costul
        output_config={"effort": "low"},     # sarcină simplă (lecția 5)
        messages=[{"role": "user", "content": f"Rezumă într-o singură frază, în română, emailul de mai jos.\n\n<email>\n{text}\n</email>"}],
    )
    if raspuns.stop_reason == "max_tokens":  # răspuns tăiat: îl marcăm
        return raspuns.content[0].text + " [tăiat]", raspuns.usage
    return raspuns.content[0].text, raspuns.usage


rezumat, usage = rezuma("Bună ziua, comanda de toner pentru imprimantă nu a ajuns încă, deși trebuia livrată ieri. Vă rog să verificați la curier. Radu")
print(rezumat)
print("Tokeni:", usage.input_tokens, "+", usage.output_tokens)
Radu anunță că tonerul comandat nu a fost livrat ieri, cum era stabilit, și cere verificarea la curier.
Tokeni: 78 + 29
1
max_tokens=150: o frază nu are nevoie de mai mult. Limita protejează bugetul dacă modelul scrie prea mult.
2
output_config={"effort": "low"}: rezumatul unui email nu cere raționament în mai mulți pași.
3
Emailul stă între <email> și </email>, separat clar de instrucțiune (detalii în modulul 2).
4
Verifici stop_reason: dacă e max_tokens, rezumatul e incomplet și îl marchezi, nu îl afișezi ca și cum ar fi întreg.
5
Funcția întoarce și usage, ca apelantul să adune costul.

Riscurile și cum le acoperi

RiscCe faci
Răspuns inventatDai modelului datele, permiți „Nu știu”, verifici în cod cifrele importante (lecția 6).
Cost scăpat de sub controlModel mic, max_tokens potrivit, istoric scurtat, costul calculat la fiecare apel (lecțiile 4 și 7).
Răspuns tăiatVerifici stop_reason == "max_tokens" și reacționezi (lecția 2).
Răspunsuri diferite la aceeași cerereInstrucțiuni precise, format fix, teste pe conținut (lecția 5).
Cod vechi copiat de pe internetFără temperature / top_p / top_k la Claude (lecția 5).
Ce urmează

În modulul 2 înveți să scrii prompturi care dau rezultate bune din prima: system prompt, exemple, structură cu tag-uri, răspunsuri JSON și prompturi testate automat, ca pe cod.

Idei de aplicații pentru care ai deja tot ce trebuie

BirouRezumatul emailurilor

Exact proiectul din exercițiu: o frază pe email și costul zilei.

MagazinDescrieri de produse

Din caracteristicile tehnice, o descriere de 2 fraze pentru fiecare produs din catalog.

ȘcoalăFeedback la teme

Un comentariu scurt și încurajator pentru fiecare temă, verificat de profesor înainte de trimitere.

HRRezumatul CV-urilor

Trei rânduri despre experiența fiecărui candidat, cu datele personale eliminate înainte de trimitere.

Exercițiul tău

Construiește asistentul de rezumate pentru biroul de contabilitate. Scrie funcția rezuma(text) care cere modelului un rezumat de o frază (emailul între <email> și </email>, max_tokens=150, efort low) și întoarce textul și usage. Pentru fiecare email din EMAILURI afișează Email N: <rezumat> (N de la 1), adună costul fiecărui apel, iar la final afișează Cost total: <dolari> $ (aprox. <lei> lei), ambele cu 6 zecimale.

  • În rezuma, apelează client.messages.create cu max_tokens=150, output_config={"effort": "low"} și promptul cu emailul între tag-uri.
  • Întoarce raspuns.content[0].text, raspuns.usage.
  • Parcurge EMAILURI cu for i, email in enumerate(EMAILURI, start=1) și afișează Email N: <rezumat>.
  • Adună în cost_total costul fiecărui apel: (input_tokens * PRET_INTRARE + output_tokens * PRET_IESIRE) / 1_000_000.
  • Afișează Cost total: ... $ (aprox. ... lei), cu :.6f pentru ambele valori.
enumerate(EMAILURI, start=1) îți dă direct numărul emailului (1, 2, 3) și textul lui.

Soluția exercițiului

import anthropic

MODEL = "claude-haiku-5-5"
PRET_INTRARE, PRET_IESIRE = 0.10, 0.50   # $ per 1M tokeni, Claude Haiku 5.5
CURS_LEU = 4.50                           # aproximativ

EMAILURI = [
    "Bună ziua, vă trimit atașat factura pentru luna octombrie. Vă rog să-mi confirmați că ați primit-o și dacă mai aveți nevoie de extrasele de cont. Mulțumesc, Ioana Marin",
    "Salut, putem muta întâlnirea de joi la ora 14 în loc de 10? Am o urgență dimineață. Andrei",
    "Bună, am observat o diferență de 250 de lei între balanța din septembrie și extrasul băncii. Puteți verifica până vineri? Mulțumesc, Elena, SC Florărie SRL",
]

client = anthropic.Anthropic()


def rezuma(text):
    raspuns = client.messages.create(
        model=MODEL,
        max_tokens=150,
        output_config={"effort": "low"},
        messages=[{"role": "user", "content": f"Rezumă într-o singură frază, în română, emailul de mai jos.\n\n<email>\n{text}\n</email>"}],
    )
    return raspuns.content[0].text, raspuns.usage


cost_total = 0
for i, email in enumerate(EMAILURI, start=1):
    rezumat, usage = rezuma(email)
    print(f"Email {i}: {rezumat}")
    cost_total += (usage.input_tokens * PRET_INTRARE + usage.output_tokens * PRET_IESIRE) / 1_000_000

print(f"Cost total: {cost_total:.6f} $ (aprox. {cost_total * CURS_LEU:.6f} lei)")
Excelent! Continuă cu lecția următoare →
main.pyPython
ConsolăSe încarcă...
Mediul de lucru se încarcă. Poți citi lecția între timp.
Rulează codul cu butonul de sus sau cu Ctrl + Enter / Cmd + Enter.
Parcursul tău Cum funcționează LLM-urile Lecția 8 · Recapitulare: planul unei aplicații AI
Progres 0% 0 din 10
Lecția curentă 8 / 8 Cum funcționează llm-urile