Anti-halucinare în AI juridic RO: cum ții LLM-ul în lege
Luna trecută un avocat din București a depus la instanță o cerere redactată cu ChatGPT. Trei dintre cele cinci spețe citate nu existau. Judecătorul a respins cererea și a trimis sesizare la Baroul București.
Anti-halucinare în AI juridic RO: cum ții LLM-ul în lege
Luna trecută un avocat din București a depus la instanță o cerere redactată cu ChatGPT. Trei dintre cele cinci spețe citate nu existau. Judecătorul a respins cererea și a trimis sesizare la Baroul București. Problema nu e noutate — colegii americani s-au ars primii, în Mata v. Avianca (documente ale Curții Federale SUA). Noutatea e că acum ajunge la noi, iar legislația românească publicată pe portalul oficial coroborată cu Regulamentul (UE) 2024/1689 (AI Act) te prinde la mijloc.
De ce halucinează modelele pe legislație RO
Un LLM generalist a văzut în training câteva mii de hotărâri CEDO, dar aproape nimic din Monitorul Oficial. Când îi ceri „art. 174 alin. (2) Cod penal”, completează plauzibil — adică greșit. Pe engleză problema e atenuată de volumul de date; pe română, modelul improvizează. ENISA Threat Landscape 2024 include halucinațiile LLM în categoria „AI-enabled misinformation”, iar AI Act Art. 50 cere transparență asupra conținutului generat de sisteme automate.
Soluția nu e un model mai mare. E citation-grounding: fiecare afirmație juridică se leagă de un paragraf real din legislatie.just.ro, EUR-Lex sau portalul instanțelor. Dacă nu există paragraf-sursă, modelul refuză să răspundă. Punct.
Arhitectura pe care o rulăm pe LETA
Corpusul se reconstruiește săptămânal din Monitorul Oficial, portalul instanțelor și deciziile ÎCCJ. Validatorul rulează după generare: ia fiecare [art. X din Legea Y/ZZZZ], verifică prezența exactă în indexul primar. Dacă nu e, răspunsul se marchează „needs human review” și nu ajunge la client.
Un log de audit tipic arată așa:
2026-10-08T09:14:22+03:00 leta.cite: query_id=q_7f3a user=av.popescu@firma.ro
retrieved=12 cited=4 verified=4 confidence=0.91
sources=["MOF 2024/812 Legea 244/2024 art.17",
"ICCJ Decizia 32/2024 RIL",
"EUR-Lex 32024R1689 art.50",
"CCR Decizia 358/2022"]Fără linia verified=4, răspunsul nu iese din sistem. Modelul nu are voie să inventeze — nu pentru că e „aliniat moral”, ci pentru că pipeline-ul îi taie ieșirea.
Ce înseamnă pentru răspunderea disciplinară
CSM nu a emis încă o normă specifică pentru AI, dar codul deontologic al magistraților impune verificarea personală a surselor. Baroul interpretează similar pentru avocați. Un răspuns LLM fără audit trail = răspundere individuală integrală a profesionistului care l-a semnat.
De aceea logul de citare contează mai mult decât modelul. Când ANSPDCP cere, pe baza GDPR Art. 22, să arăți cum s-a luat o decizie asistată automat, răspunsul tău nu poate fi „a zis ChatGPT”. Trebuie să fie fișierul JSON cu span-urile verificate, timestamp-ul, sursa primară.
La CAI Technology nu credem în „AI juridic etic prin design”. Credem în pipeline-uri verificabile unde modelul e doar un component între retriever și validator — restul e inginerie. Vezi aceeași logică aplicată conformității la analiza NIS2 pe Lexnomia sau scrie-ne pentru un demo LETA pe o speță reală.