Halucinații: când AI-ul inventează cu încredere
Un asistent AI poate cita un articol de lege care nu există, cu aceeași siguranță cu care îți scrie un email corect. În lecția asta afli ce sunt halucinațiile, de ce apar, unde e riscul mare și cum scrii prompturi care cer surse verificabile și sinceritate când asistentul nu știe.
Un răspuns sigur pe el, dar greșit
Radu lucrează în HR la o fabrică de componente auto din Pitești. Firma vrea să introducă două zile de lucru de acasă pe săptămână, iar Radu are nevoie rapid de baza legală. Întreabă asistentul:
Ce articol din Codul muncii reglementează telemunca?
Telemunca este reglementată de art. 110^1 din Codul muncii, introdus în 2018. Conform acestui articol, angajatorul are obligația de a asigura echipamentele necesare și de a stabili programul de lucru de comun acord cu salariatul...
Sună foarte convingător: articol, an, detalii. Problema: telemunca nu este reglementată printr-un articol din Codul muncii, ci printr-o lege separată, Legea nr. 81/2018 privind reglementarea activității de telemuncă. Codul muncii are articole despre munca la domiciliu, care e altceva. Dacă Radu copia răspunsul într-o notă internă, greșeala ajungea la conducere cu semnătura lui.
Când un asistent AI inventează informații (articole de lege, cifre, citate, cărți, studii, linkuri) și le prezintă la fel de sigur ca pe cele adevărate, spunem că halucinează. Nu minte intenționat: modelul generează textul cel mai plauzibil, iar uneori textul plauzibil nu este adevărat.
De ce se întâmplă
Îți amintești din lecția 1: un model de limbaj nu caută într-o bază de date, ci compune răspunsul cuvânt cu cuvânt, pe baza tiparelor învățate. Știe cum arată o trimitere la un articol de lege („art. 110^1”), deci poate produce una care arată perfect, chiar dacă nu există.
- Detaliile rare sunt cele mai riscante: numere de articole, date exacte, nume de persoane mai puțin cunoscute, titluri de cărți, statistici locale.
- Tonul nu e un indiciu: un răspuns greșit sună la fel de sigur ca unul corect. Asistentul nu ezită și nu roșește.
- Lucrurile recente lipsesc: modelul a învățat până la o anumită dată. Fără căutare pe internet, nu știe de o lege modificată luna trecută.
- Linkurile pot fi inventate: o adresă care arată corect poate duce la o pagină inexistentă.
Un caz celebru: în 2023, doi avocați din New York au depus în instanță un document cu hotărâri judecătorești găsite cu ChatGPT. Hotărârile nu existau. Judecătorul i-a amendat, iar cazul a făcut înconjurul lumii. Unealta nu era „stricată”; avocații nu au verificat.
Unde ai încredere și unde verifici
Regula practică: folosește asistentul mai mult pe textul tău decât pe memoria lui. Dacă ai legea, contractul sau raportul, lipește-l și pune întrebarea despre el. Răspunsul va fi mult mai fidel, iar tu poți compara imediat cu originalul.
Cum îți protejezi munca
Așa arată întrebarea lui Radu scrisă bine:
Ce act normativ reglementează telemunca în România? Indică numele exact și numărul actului, ca să-l pot verifica pe legislatie.just.ro. Dacă nu ești sigur, spune asta clar în loc să ghicești.
Telemunca este reglementată de Legea nr. 81/2018 privind reglementarea activității de telemuncă. Verificați forma actualizată pe legislatie.just.ro, pentru că legile se modifică în timp. Nu o confundați cu munca la domiciliu, care are prevederi proprii în Codul muncii.
Checklist de verificare
Înainte să folosești un răspuns într-un email, un raport sau o decizie, trece prin lista asta:
| Verifică | Cum |
|---|---|
| Cifrele | Le compari cu sursa (raportul, Excel-ul, site-ul instituției); refaci calculele importante în Excel. |
| Numele și titlurile | Persoane, firme, cărți, studii: le cauți separat. |
| Legile și articolele | Le deschizi în forma actualizată, pe legislatie.just.ro sau în programul legislativ al firmei. |
| Linkurile | Le deschizi; un link care nu se deschide e un semnal de alarmă pentru tot răspunsul. |
| Datele recente | Întrebi: „Până la ce dată ai informații?” și folosești căutarea pe internet. |
Ceri actul și articolul, apoi citești textul oficial înainte să-l treci în procedură.
Ceri sursa fiecărei statistici; dacă nu o găsești, scoți cifra din ofertă.
Cauți fiecare carte în catalogul bibliotecii; titlurile inventate sunt frecvente.
Radu are o nouă întrebare de la un angajat (e în editor). Scrie deasupra un prompt care cere răspunsul, dar îl protejează de halucinații: cere sursa (actul normativ și articolul), astfel încât Radu să o poată verifica, și cere asistentului să spună când nu e sigur, în loc să ghicească.
- Cere sursa răspunsului.
- Cere ceva verificabil: actul normativ și articolul, sau un link oficial.
- Cere să spună clar când nu e sigur (sau să nu inventeze).
Soluția exercițiului
Răspunde la întrebarea de mai jos pe scurt, în 3-4 fraze. Indică sursa exactă (actul normativ și articolul), ca să pot verifica textul în sursa oficială. Dacă nu ești sigur de ceva sau dacă depinde de alte documente (de exemplu contractul colectiv de muncă), spune clar asta în loc să ghicești. Întrebarea lui Radu: """ Un angajat nu și-a luat toate zilele de concediu de odihnă anul acesta și ne întreabă dacă i le putem plăti în bani, în loc să le ia. Ce prevede legislația muncii din România în situația asta? """
