De ce AI-ul „inventează” răspunsuri — și cum previi halucinațiile

Ai pus o întrebare unui AI, ți-a răspuns cu o siguranță de expert — și răspunsul era greșit. Nu „aproximativ”, ci inventat din temelii: o clauză de contract care nu există, un număr scos din burtă, o procedură pe care nimeni n-a scris-o vreodată. Asta e o halucinație, și e cea mai frecventă frică a oricui se gândește să bage AI în firmă.

Vestea bună: nu e magie neagră și nici semn că „AI-ul nu e copt”. E o consecință directă a felului în care funcționează un model de limbaj — și, odată ce înțelegi de ce se întâmplă, înțelegi și cum o previi. Hai să lămurim ambele, pe limba oricui.

Ce e, de fapt, o halucinație

Un model de limbaj nu „caută” răspunsul într-o bază de date, cum crede lumea. El prezice cel mai probabil cuvânt următor, pe baza a miliarde de texte pe care le-a văzut. E, în esență, o mașină de completat propoziții — extraordinar de bună, dar care nu are noțiunea de „adevărat” vs „fals”. Are doar noțiunea de „ce sună plauzibil”.

De aici vine problema: uneori cel mai plauzibil răspuns e și corect. Alteori, cel mai plauzibil răspuns e o invenție care sună perfect. Modelul nu simte diferența — livrează amândouă cu aceeași încredere. Halucinația nu e un bug ocazional; e reversul aceleiași monede care-l face util.

De ce se întâmplă, concret

Trei cauze acoperă aproape tot ce vezi în practică. Le știi, le eviți:

• Nu are datele tale. Modelul a fost antrenat pe internet, nu pe contractele, procedurile și prețurile firmei tale. Când îl întrebi ceva specific, n-are de unde să știe — așa că „completează” cu ce sună bine.
• Vrea să fie de folos. Modelele sunt construite să răspundă, nu să refuze. Fără instrucțiuni clare, un model preferă să dea un răspuns plauzibil decât să spună „nu știu” — exact invers față de ce vrei tu într-un context de business.
• Întrebarea e ambiguă. Dacă întrebarea lasă loc de interpretare, modelul alege o interpretare și merge mai departe cu încredere, chiar dacă tu voiai altceva.

Soluția: RAG + surse verificabile

Aici intră RAG (Retrieval-Augmented Generation). În loc să lași modelul să răspundă din „memoria” lui statistică, îi dai întâi documentele relevante și îi ceri să răspundă DOAR pe baza lor, cu citare. Practic, muți AI-ul de la „ghicește” la „citește și răspunde din sursă”.

Diferența e uriașă. Un AI pe RAG, bine construit, nu-ți spune „termenul e 30 de zile” din senin — îți spune „termenul e 30 de zile, conform contractului X, secțiunea 4” și îți arată pasajul. Dacă informația nu e în documente, spune clar că nu știe, în loc să inventeze.

„Nu știu” e un răspuns bun

Contraintuitiv, cel mai valoros comportament al unui AI de business e să recunoască ce nu știe. Un sistem construit corect e instruit să spună „nu am această informație în documentele disponibile” în loc să umple golul cu o invenție. Într-o firmă, un „nu știu” onest e infinit mai ieftin decât un „da” inventat pe care cineva îl ia de bun.

De asta, când evaluezi un furnizor, întrebarea-cheie nu e „cât de deștept e AI-ul?”, ci „ce face când nu știe?”. Dacă răspunsul e „inventează frumos”, fugi. Dacă e „spune că nu știe și te trimite la un om”, ești pe drumul bun.

Cum verifici că un furnizor tratează problema serios