Halucinațiile și cum le reduci
Un model poate spune, pe un ton perfect sigur, că returul se face în 14 zile când în realitate sunt 30, sau poate cita o lege care nu există. Aceste răspunsuri inventate se numesc halucinații și sunt riscul numărul unu al unei aplicații AI puse în fața clienților. Vestea bună: în aplicația ta le poți reduce mult, cu câteva tehnici simple pe care le aplici din prima zi.
De ce inventează un model
Din lecția 2 știi că modelul prezice text plauzibil, token cu token. Nu caută răspunsul într-o bază de date și nu are un mecanism intern care să-i spună „asta nu știu”. Când informația lipsește, continuarea cea mai probabilă a unei întrebări despre retur este un răspuns care *sună* ca o politică de retur obișnuită, cu cifre tipice din magazinele pe care le-a văzut la antrenare.
- Prețuri, termene, cifre: „Livrarea costă 15 lei” pentru un magazin despre care modelul nu știe nimic.
- Legi și articole: numere de articole sau hotărâri care sună credibil, dar nu există.
- Citate și surse: titluri de cărți, studii sau linkuri inventate.
- Cod: funcții sau parametri de bibliotecă inexistenți (de exemplu parametri scoși din API, ca temperature din lecția 5).
- Date despre persoane și firme: adrese, telefoane, istoricul unei companii.
Halucinațiile nu dispar complet nici la cele mai bune modele. Scopul tău nu este să le elimini prin rugăminți în prompt, ci să construiești aplicația astfel încât modelul să aibă datele corecte, să aibă voie să spună „nu știu”, iar codul să verifice ce contează.
Demonstrație: întrebarea fără date
Un magazin pune un asistent pe site, dar nu-i dă politica de retur. Un client întreabă:
import anthropic
MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()
raspuns = client.messages.create(
model=MODEL,
max_tokens=200,
messages=[{"role": "user", "content": "În câte zile pot returna un produs cumpărat de la magazinul nostru?"}],
)
print(raspuns.content[0].text)
Poți returna produsul în 14 zile, iar transportul retur este gratuit.
Răspunsul e fluent și sună corect, dar e greșit: la acest magazin returul e de 30 de zile, iar transportul retur îl plătește clientul. Un client care a citit răspunsul va cere bani pe transport, iar magazinul are o problemă.
Remediul 1: dă-i datele în prompt
Pune documentul relevant direct în mesaj, separat clar de întrebare (aici, între tag-urile <document> și </document>; despre tag-uri afli mai mult în modulul 2). Modelul are acum de unde citi:
import anthropic
MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()
DOCUMENT = "Produsele se pot returna în 30 de zile de la livrare, nefolosite și în ambalajul original. Transportul retur este plătit de client, cu excepția produselor defecte. Banii se întorc pe card în 5 zile lucrătoare."
prompt = f"""Răspunde la întrebarea clientului folosind documentul de mai jos.
<document>
{DOCUMENT}
</document>
Întrebare: În câte zile pot returna un produs?"""
raspuns = client.messages.create(model=MODEL, max_tokens=200, messages=[{"role": "user", "content": prompt}])
print(raspuns.content[0].text)
Poți returna produsul în 30 de zile de la livrare, dacă e nefolosit și în ambalajul original.
Aceasta este ideea din spatele RAG (modulul 5): găsești automat documentele potrivite pentru fiecare întrebare și le pui în prompt.
Remediul 2: permite răspunsul „Nu știu”
Documentul ajută doar pentru întrebările la care are răspuns. Ce se întâmplă când clientul întreabă ceva ce nu apare în document?
import anthropic
MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()
DOCUMENT = "Produsele se pot returna în 30 de zile de la livrare, nefolosite și în ambalajul original. Transportul retur este plătit de client, cu excepția produselor defecte. Banii se întorc pe card în 5 zile lucrătoare."
prompt = f"""Răspunde la întrebarea clientului folosind documentul de mai jos.
<document>
{DOCUMENT}
</document>
Întrebare: Pot plăti în rate?"""
raspuns = client.messages.create(model=MODEL, max_tokens=200, messages=[{"role": "user", "content": prompt}])
print(raspuns.content[0].text)
Da, poți plăti în 3 sau 6 rate fără dobândă cu cardurile băncilor partenere.
Documentul nu spune nimic despre rate, dar modelul tot a „ajutat”. Trebuie să-i spui explicit ce să facă atunci când informația lipsește. O instrucțiune care funcționează bine:
„Răspunde DOAR pe baza documentului de mai jos. Dacă informația nu apare în document, răspunde «Nu știu» și spune că documentul nu conține informația.” Un „nu știu” urmat de „vă pun în legătură cu un coleg” este mult mai bun decât un răspuns inventat.
Remediul 3: cere surse și verifică în cod
Pentru informațiile critice (sume, termene, coduri) nu te baza doar pe prompt. Poți cere modelului să citeze fraza din document pe care se bazează (în modulul 5 vei numerota fragmentele și vei cere citări [1], [2]) și poți face verificări simple în cod. De exemplu, orice număr din răspuns ar trebui să apară și în document:
import re
DOCUMENT = "Produsele se pot returna în 30 de zile de la livrare, nefolosite și în ambalajul original. Transportul retur este plătit de client, cu excepția produselor defecte. Banii se întorc pe card în 5 zile lucrătoare."
def numere_neconfirmate(raspuns, document):
"""Numerele din răspuns care nu apar deloc în document: semn de posibilă invenție."""
numere_doc = set(re.findall(r"\d+", document))
return [n for n in re.findall(r"\d+", raspuns) if n not in numere_doc]
bun = "Poți returna produsul în 30 de zile de la livrare."
inventat = "Poți plăti în 3 sau 6 rate fără dobândă."
print("Răspuns 1:", numere_neconfirmate(bun, DOCUMENT) or "OK")
print("Răspuns 2:", numere_neconfirmate(inventat, DOCUMENT) or "OK")
Răspuns 1: OK Răspuns 2: ['3', '6']
O verificare atât de simplă nu prinde orice greșeală, dar prinde exact tipul cel mai periculos: cifrele inventate. Când verificarea pică, aplicația poate cere un nou răspuns, poate afișa un mesaj prudent sau poate preda conversația unui om.
Greșeli frecvente și cazuri reale
- Crezi că un model mai mare nu halucinează: greșește mai rar, dar tot greșește. Datele în prompt contează mai mult decât mărimea modelului.
- Scrii doar „Nu inventa!” în prompt: ajută puțin. Funcționează dacă îi dai și datele, și o ieșire permisă („Nu știu”).
- Pui documentul, dar uiți de întrebările din afara lui: tocmai acolo apar invențiile.
- Afișezi direct clientului sume sau termene generate, fără nicio verificare.
- Ceri modelului linkuri sau surse „de pe internet”: fără un tool de căutare (modulul 4), le poate inventa.
Politica de retur, livrare și garanție intră în context; la orice altceva, asistentul spune că verifică un coleg.
Asistentul unei firme de avocatură trebuie să citeze paragraful exact din contract, verificat apoi în cod.
La întrebări medicale în afara informațiilor clinicii, răspunsul este „Nu știu, vă rog să discutați cu medicul”.
Construiește asistentul de retur al magazinului fără halucinații. Scrie funcția intreaba(intrebare) care trimite modelului întrebarea împreună cu DOCUMENT (între <document> și </document>) și instrucțiunea de a răspunde doar din document, cu „Nu știu” dacă informația lipsește. Pentru fiecare întrebare din INTREBARI afișează Întrebare: ... și Răspuns: ....
- În intreaba, construiește promptul cu un f-string care conține instrucțiunea, documentul între tag-uri și întrebarea.
- Instrucțiunea trebuie să conțină textul Nu știu (ce răspunde modelul când informația lipsește).
- Trimite promptul cu client.messages.create și întoarce raspuns.content[0].text.
- Parcurge INTREBARI cu for și afișează Întrebare: + întrebarea și Răspuns: + răspunsul.
Soluția exercițiului
import anthropic
MODEL = "claude-haiku-5-5"
client = anthropic.Anthropic()
DOCUMENT = "Produsele se pot returna în 30 de zile de la livrare, nefolosite și în ambalajul original. Transportul retur este plătit de client, cu excepția produselor defecte. Banii se întorc pe card în 5 zile lucrătoare."
INTREBARI = ["În câte zile pot returna un produs?", "Pot plăti în rate?"]
def intreaba(intrebare):
prompt = f"""Răspunde la întrebarea clientului DOAR pe baza documentului de mai jos.
Dacă informația nu apare în document, răspunde „Nu știu” și spune că documentul nu conține informația.
<document>
{DOCUMENT}
</document>
Întrebare: {intrebare}"""
raspuns = client.messages.create(
model=MODEL,
max_tokens=300,
messages=[{"role": "user", "content": prompt}],
)
return raspuns.content[0].text
for intrebare in INTREBARI:
print("Întrebare:", intrebare)
print("Răspuns:", intreaba(intrebare)) 