Cum funcționează un model de limbaj
ChatGPT, Claude, Gemini și Copilot par să înțeleagă tot ce le scrii. În spatele lor stă un model mare de limbaj (LLM). În lecția aceasta afli ce face, de fapt, un astfel de model când îi trimiți o întrebare și de ce asta explică atât punctele lui forte, cât și greșelile.
O completare automată foarte, foarte bună
Când scrii un mesaj pe telefon, tastatura îți sugerează cuvântul următor: după „La mulți” îți propune „ani”. Un model de limbaj face, în principiu, același lucru, dar la o scară uriașă: a fost antrenat pe cantități enorme de text (cărți, articole, pagini web, cod) și a învățat ce cuvânt urmează, de obicei, după altele.
Când îi trimiți o întrebare, modelul nu caută răspunsul într-o enciclopedie. Prezice continuarea cea mai probabilă a textului, bucată cu bucată, până obține un răspuns întreg. Pentru că a văzut atât de mult text, continuarea sună de obicei natural, coerent și util.
Modelul produce text plauzibil, nu text verificat. De cele mai multe ori plauzibilul e și adevărat, dar nu întotdeauna. Asta explică halucinațiile, despre care vorbim în lecția 5.
Tokeni: bucățile cu care lucrează modelul
Modelul nu citește litere sau cuvinte întregi, ci tokeni: bucăți de text, de obicei părți de cuvânt. Cuvântul „distribuție” poate fi împărțit, de exemplu, în „distribu” și „ție”. Un text în română are, în general, mai mulți tokeni decât cuvinte.
Pentru că alegerea fiecărui token are o doză de variație, același prompt poate primi răspunsuri ușor diferite la fiecare încercare. Nu e o eroare: așa funcționează modelul.
Fereastra de context și data limită
Modelul „vede” odată doar o anumită cantitate de text, numită fereastra de context: promptul tău, conversația de până atunci și documentele pe care i le-ai dat. Ce nu e în fereastră, nu există pentru el. Dacă îi ceri să răspundă despre regulamentul intern al firmei fără să i-l dai, va răspunde din ce a văzut în general, adică va ghici.
Modelul a fost antrenat pe texte până la o anumită dată (data limită a antrenării). Fără o funcție de căutare pe internet, nu știe ce s-a întâmplat după aceea: o lege modificată recent, un preț nou, un eveniment de ieri.
| Ce vrei | Ce trebuie să-i dai | Ce se întâmplă altfel |
|---|---|---|
| Un răspuns despre politica firmei | textul politicii, în prompt sau ca fișier | inventează o politică „tipică” |
| Informații recente | o unealtă cu căutare și verificarea surselor | răspunde cu informații vechi |
| Un rezumat al unei ședințe | notițele ședinței | nu are de unde să știe ce s-a discutat |
Modelul, asistentul și uneltele lui
Când folosești ChatGPT, Claude, Gemini sau Copilot nu vorbești direct cu un model „gol”. Un asistent este format din:
- modelul de limbaj, care produce textul;
- instrucțiunile date de firma care l-a făcut (cum să se comporte, ce să refuze);
- unelte suplimentare, în funcție de produs și de plan: căutare pe internet, citirea fișierelor, generarea de imagini, conectarea la emailul sau documentele firmei.
Depinde de unealtă și de setări. Unele asistente păstrează istoricul sau au o funcție de memorie, altele nu. Important pentru tine: ce scrii poate ajunge la furnizor și poate fi păstrat, după termenii și setările contului. De aceea, în modulul 3 vorbim despre ce date ai voie să pui într-un asistent.
Ce înseamnă asta la birou
Asistentul scrie un text convingător, dar prețurile și termenele de livrare le pune Mihai din lista oficială.
Fără regulamentul intern în prompt, asistentul răspunde cu reguli generale, nu cu cele ale firmei.
Modelul prezice text, nu calculează ca Excel: totalurile importante se verifică.
Pentru o versiune nouă a unui program, asistentul poate avea informații vechi, de dinainte de data limită.
Pe scurt
- Un model de limbaj (LLM) prezice, token cu token, continuarea cea mai probabilă a textului.
- Tokenii sunt bucăți de cuvânt; același prompt poate primi răspunsuri ușor diferite.
- Fereastra de context: modelul vede doar ce îi dai acum; fără căutare, nu știe nimic după data limită a antrenării.
- Asistentul = model + instrucțiuni + unelte. Textul produs e plauzibil, nu garantat adevărat.
În panoul din dreapta ai 4 provocări despre ce se întâmplă când trimiți un prompt unui asistent AI.
- Provocarea 1: ordonează ce se întâmplă de la prompt la răspuns.
- Întrebarea 2: ce este un token.
- Întrebarea 3: adevărat sau fals despre sursa răspunsurilor.
- Întrebarea 4: completează propoziția despre ce prezice modelul.
Soluția exercițiului
1. Scrii și trimiți promptul → textul e împărțit în tokeni → modelul alege tokenul următor cel mai probabil → adaugă tokenul și repetă → primești răspunsul. 2. O bucată de text, de obicei o parte de cuvânt. 3. Fals: modelul prezice textul cel mai probabil, nu caută adevăruri verificate. 4. probabil; context.
