...
← Curs Alfabetizare AI pentru angajați (AI Act): toate lecțiile
Lecția 5 · Modele de limbaj

Halucinații: când AI-ul inventează

Cel mai cunoscut risc al asistenților AI are un nume ciudat: halucinația. Modelul îți dă, foarte sigur pe el, o cifră, un citat, un articol de lege sau o sursă care nu există. În lecția aceasta afli de ce se întâmplă, cum o recunoști și cum scrii un prompt care reduce mult riscul. Apoi exersezi: e prima lecție practică, în care scrii tu promptul.

Ce este o halucinație

O halucinație este un răspuns care sună convingător, dar este fals sau inventat. Nu e o minciună în sensul omenesc: modelul nu știe că greșește. Își face treaba obișnuită, prezice textul cel mai plauzibil, iar uneori textul plauzibil nu corespunde realității.

  • Cifre inventate: „Piața produselor de birou a crescut cu 14,3% în 2024.”
  • Surse inexistente: un studiu, un articol sau un link care nu există.
  • Citate false: o frază atribuită unei persoane reale, care n-a spus-o niciodată.
  • Reguli și legi inventate: un articol de lege, o amendă sau un termen care nu apare în textul oficial.
  • Detalii despre firma ta: o politică de retur sau un număr de zile de concediu „tipic”, nu cel real.
Atenție

Halucinațiile sunt periculoase tocmai pentru că arată la fel ca răspunsurile corecte: aceeași formulare sigură, aceeași structură ordonată. Nu există un semn vizibil care să te avertizeze.

De ce apar

Din lecția 3 știi că modelul prezice continuarea cea mai probabilă a textului. Când îl întrebi ceva ce nu știe, nu are un mecanism care să-l oprească automat; continuă să producă un text care „sună” a răspuns. Riscul crește când:

SituațiaDe ce crește riscul
Întrebi despre detalii foarte precise (numere, date, articole)modelul a văzut texte asemănătoare și combină bucăți din ele
Întrebi despre firma ta fără să-i dai documentelenu are de unde să știe, așa că ghicește ce e „tipic”
Întrebi despre ceva foarte recentnu cunoaște ce s-a întâmplat după data limită a antrenării
Ceri surse, linkuri sau citatepoate genera adrese și titluri care arată credibil, dar nu există

Un exemplu: articolul de lege inventat

Mihai vrea să afle repede ce amendă riscă firma dacă nu își instruiește angajații despre AI. Întreabă un asistent fără să-i dea vreun text:

Ce amendă exactă primește o firmă din România care nu respectă articolul 4 din AI Act? Dă-mi articolul care o stabilește.
Conform articolului 99 alineatul (7) din AI Act, firmele care nu asigură alfabetizarea AI a personalului primesc o amendă fixă de 50.000 de euro, aplicată de Autoritatea Națională pentru Inteligență Artificială.

Răspunsul sună foarte precis, dar este inventat (l-am scris noi, ca exemplu tipic de halucinație): regulamentul nu prevede o astfel de amendă fixă, iar autoritatea cu acest nume este inventată. Pentru orice întrebare juridică, sursa de adevăr este textul oficial (pe EUR-Lex) și juristul sau responsabilul de conformitate al firmei, nu asistentul.

Cum reduci riscul din prompt

Nu poți elimina complet halucinațiile, dar le poți reduce mult cu patru obiceiuri simple:

1
Dă-i sursa: lipește în prompt textul de care are nevoie (regulamentul, contractul, notițele), între ghilimele triple """, ca să se vadă clar unde începe și unde se termină.
2
Cere-i să răspundă doar din text: „Răspunde numai pe baza textului de mai jos.”
3
Dă-i voie să spună „nu știu”: „Dacă informația nu apare în text, spune clar că nu apare.” Fără această frază, modelul tinde să completeze golurile.
4
Cere-i să arate de unde a luat răspunsul: „Citează punctul din text pe care te bazezi.” Așa poți verifica tu, în câteva secunde.

Comparația de mai jos arată diferența. Ana, de la HR, întreabă despre concediu.

Câte zile de concediu are un angajat la noi?
În România, un angajat are de obicei între 21 și 25 de zile de concediu pe an, în funcție de firmă și de vechime.
Răspunde numai pe baza regulamentului de mai jos. Dacă informația nu apare în text, spune clar că nu apare. Citează punctul pe care te bazezi.

"""
7.1. Fiecare salariat are dreptul la 21 de zile lucrătoare de concediu de odihnă pe an.
"""

Câte zile de concediu are un angajat la noi?
Un angajat are 21 de zile lucrătoare de concediu de odihnă pe an (punctul 7.1).

Al doilea răspuns e scurt, exact și ușor de verificat. Primul nu e chiar fals, dar e general și nu vorbește despre firma ta.

Verificarea rămâne a ta

Chiar și cu un prompt bun, verifici rezultatul înainte să-l folosești, mai ales când e vorba de cifre, nume, termene, reguli sau orice ajunge la un client. Verifici la sursa oficială: documentul intern, sistemul firmei, site-ul instituției, textul legii.

Bine de știut

În exercițiile acestui curs, răspunsurile asistentului sunt simulate: sunt exemple scrise de noi, ca să vezi efectul fiecărui element al promptului. Nimic din ce scrii nu pleacă din browser. La birou folosești aceleași reguli cu asistentul aprobat de firma ta.

SursăDă-i textul

Lipește documentul între ghilimele triple.

LimităDoar din text

Cere-i să răspundă numai pe baza textului dat.

SinceritateVoie la „nu știu”

Cere-i să spună clar când informația nu apare.

ControlArată de unde

Cere citarea punctului din text; apoi verifici tu.

Exercițiul tău

Mihai, de la vânzări, o întreabă pe Ana câte zile de concediu are și dacă își poate reporta zilele rămase. Ana vrea să folosească asistentul AI. În editor ai deja întrebarea lui Mihai și extrasul din regulamentul intern, între ghilimele triple. Scrie tu, pe primul rând, promptul care reduce riscul de halucinație, apoi apasă „Rulează”.

  • Cere-i să răspundă numai pe baza textului din regulament.
  • Cere-i să spună clar dacă o informație nu apare în text (de exemplu, „nu știu” sau „nu apare în text”).
  • Cere-i să citeze punctul din regulament pe care se bazează.
  • Cere-i să marcheze ce trebuie verificat sau confirmat cu HR.
Folosește cele patru obiceiuri din lecție: doar din text, voie la „nu apare în text”, citează punctul, spune ce trebuie verificat.

Soluția exercițiului

Răspunde la întrebarea lui Mihai numai pe baza regulamentului de mai jos. Dacă o informație nu apare în text, spune clar că nu apare în text. Pentru fiecare răspuns, citează punctul din regulament pe care te bazezi. La final, scrie ce trebuie verificat cu departamentul HR.

Întrebarea lui Mihai (vânzări):
„Câte zile de concediu am anul acesta, dacă am 4 ani vechime în firmă? Și pot să-mi reportez zilele rămase în anul următor?”

"""
REGULAMENT INTERN NORDICA DISTRIBUȚIE SRL – extras
Capitolul 7. Concediul de odihnă
7.1. Fiecare salariat are dreptul la 21 de zile lucrătoare de concediu de odihnă pe an.
7.2. Salariații cu o vechime în firmă de peste 5 ani primesc 2 zile suplimentare pe an.
7.3. Cererea de concediu se depune cu cel puțin 10 zile lucrătoare înainte, în aplicația de HR, și se aprobă de managerul direct.
7.4. Concediul se programează astfel încât în fiecare departament să rămână cel puțin jumătate din echipă.
"""
Excelent! Continuă cu lecția următoare →
prompt.txtAI Act
ConsolăSe încarcă...
Mediul de lucru se încarcă. Poți citi lecția între timp.
Rulează codul cu butonul de sus sau cu Ctrl + Enter / Cmd + Enter.
Parcursul tău Ce este inteligența artificială Lecția 5 · Halucinații: când AI-ul inventează
Progres 0% 0 din 8
Lecția curentă 5 / 6 Modele de limbaj