Halucinații: când AI-ul inventează
Cel mai cunoscut risc al asistenților AI are un nume ciudat: halucinația. Modelul îți dă, foarte sigur pe el, o cifră, un citat, un articol de lege sau o sursă care nu există. În lecția aceasta afli de ce se întâmplă, cum o recunoști și cum scrii un prompt care reduce mult riscul. Apoi exersezi: e prima lecție practică, în care scrii tu promptul.
Ce este o halucinație
O halucinație este un răspuns care sună convingător, dar este fals sau inventat. Nu e o minciună în sensul omenesc: modelul nu știe că greșește. Își face treaba obișnuită, prezice textul cel mai plauzibil, iar uneori textul plauzibil nu corespunde realității.
- Cifre inventate: „Piața produselor de birou a crescut cu 14,3% în 2024.”
- Surse inexistente: un studiu, un articol sau un link care nu există.
- Citate false: o frază atribuită unei persoane reale, care n-a spus-o niciodată.
- Reguli și legi inventate: un articol de lege, o amendă sau un termen care nu apare în textul oficial.
- Detalii despre firma ta: o politică de retur sau un număr de zile de concediu „tipic”, nu cel real.
Halucinațiile sunt periculoase tocmai pentru că arată la fel ca răspunsurile corecte: aceeași formulare sigură, aceeași structură ordonată. Nu există un semn vizibil care să te avertizeze.
De ce apar
Din lecția 3 știi că modelul prezice continuarea cea mai probabilă a textului. Când îl întrebi ceva ce nu știe, nu are un mecanism care să-l oprească automat; continuă să producă un text care „sună” a răspuns. Riscul crește când:
| Situația | De ce crește riscul |
|---|---|
| Întrebi despre detalii foarte precise (numere, date, articole) | modelul a văzut texte asemănătoare și combină bucăți din ele |
| Întrebi despre firma ta fără să-i dai documentele | nu are de unde să știe, așa că ghicește ce e „tipic” |
| Întrebi despre ceva foarte recent | nu cunoaște ce s-a întâmplat după data limită a antrenării |
| Ceri surse, linkuri sau citate | poate genera adrese și titluri care arată credibil, dar nu există |
Un exemplu: articolul de lege inventat
Mihai vrea să afle repede ce amendă riscă firma dacă nu își instruiește angajații despre AI. Întreabă un asistent fără să-i dea vreun text:
Ce amendă exactă primește o firmă din România care nu respectă articolul 4 din AI Act? Dă-mi articolul care o stabilește.
Conform articolului 99 alineatul (7) din AI Act, firmele care nu asigură alfabetizarea AI a personalului primesc o amendă fixă de 50.000 de euro, aplicată de Autoritatea Națională pentru Inteligență Artificială.
Răspunsul sună foarte precis, dar este inventat (l-am scris noi, ca exemplu tipic de halucinație): regulamentul nu prevede o astfel de amendă fixă, iar autoritatea cu acest nume este inventată. Pentru orice întrebare juridică, sursa de adevăr este textul oficial (pe EUR-Lex) și juristul sau responsabilul de conformitate al firmei, nu asistentul.
Cum reduci riscul din prompt
Nu poți elimina complet halucinațiile, dar le poți reduce mult cu patru obiceiuri simple:
Comparația de mai jos arată diferența. Ana, de la HR, întreabă despre concediu.
Câte zile de concediu are un angajat la noi?
În România, un angajat are de obicei între 21 și 25 de zile de concediu pe an, în funcție de firmă și de vechime.
Răspunde numai pe baza regulamentului de mai jos. Dacă informația nu apare în text, spune clar că nu apare. Citează punctul pe care te bazezi. """ 7.1. Fiecare salariat are dreptul la 21 de zile lucrătoare de concediu de odihnă pe an. """ Câte zile de concediu are un angajat la noi?
Un angajat are 21 de zile lucrătoare de concediu de odihnă pe an (punctul 7.1).
Al doilea răspuns e scurt, exact și ușor de verificat. Primul nu e chiar fals, dar e general și nu vorbește despre firma ta.
Verificarea rămâne a ta
Chiar și cu un prompt bun, verifici rezultatul înainte să-l folosești, mai ales când e vorba de cifre, nume, termene, reguli sau orice ajunge la un client. Verifici la sursa oficială: documentul intern, sistemul firmei, site-ul instituției, textul legii.
În exercițiile acestui curs, răspunsurile asistentului sunt simulate: sunt exemple scrise de noi, ca să vezi efectul fiecărui element al promptului. Nimic din ce scrii nu pleacă din browser. La birou folosești aceleași reguli cu asistentul aprobat de firma ta.
Lipește documentul între ghilimele triple.
Cere-i să răspundă numai pe baza textului dat.
Cere-i să spună clar când informația nu apare.
Cere citarea punctului din text; apoi verifici tu.
Mihai, de la vânzări, o întreabă pe Ana câte zile de concediu are și dacă își poate reporta zilele rămase. Ana vrea să folosească asistentul AI. În editor ai deja întrebarea lui Mihai și extrasul din regulamentul intern, între ghilimele triple. Scrie tu, pe primul rând, promptul care reduce riscul de halucinație, apoi apasă „Rulează”.
- Cere-i să răspundă numai pe baza textului din regulament.
- Cere-i să spună clar dacă o informație nu apare în text (de exemplu, „nu știu” sau „nu apare în text”).
- Cere-i să citeze punctul din regulament pe care se bazează.
- Cere-i să marcheze ce trebuie verificat sau confirmat cu HR.
Soluția exercițiului
Răspunde la întrebarea lui Mihai numai pe baza regulamentului de mai jos. Dacă o informație nu apare în text, spune clar că nu apare în text. Pentru fiecare răspuns, citează punctul din regulament pe care te bazezi. La final, scrie ce trebuie verificat cu departamentul HR. Întrebarea lui Mihai (vânzări): „Câte zile de concediu am anul acesta, dacă am 4 ani vechime în firmă? Și pot să-mi reportez zilele rămase în anul următor?” """ REGULAMENT INTERN NORDICA DISTRIBUȚIE SRL – extras Capitolul 7. Concediul de odihnă 7.1. Fiecare salariat are dreptul la 21 de zile lucrătoare de concediu de odihnă pe an. 7.2. Salariații cu o vechime în firmă de peste 5 ani primesc 2 zile suplimentare pe an. 7.3. Cererea de concediu se depune cu cel puțin 10 zile lucrătoare înainte, în aplicația de HR, și se aprobă de managerul direct. 7.4. Concediul se programează astfel încât în fiecare departament să rămână cel puțin jumătate din echipă. """
