AI Agentic vs single-LLM: când merită un orchestrator pe proces RO
Marți dimineața, un CFO dintr-o firmă de distribuție cu 180 angajați m-a sunat: „Bot-ul cu GPT răspunde bine la întrebări, dar pe recuperarea TVA din decontul lunar tot noi frecăm dosarele." Exact aici se sparge fante…
AI Agentic vs single-LLM: când merită un orchestrator pe proces RO
Marți dimineața, un CFO dintr-o firmă de distribuție cu 180 angajați m-a sunat: „Bot-ul cu GPT răspunde bine la întrebări, dar pe recuperarea TVA din decontul lunar tot noi frecăm dosarele.” Exact aici se sparge fantezia „un LLM face tot”.
Un singur model, oricât de mare, e un răspuns bun la o întrebare. Un proces de business înseamnă zece decizii înlănțuite, date din patru sisteme diferite și un audit trail pe care ANAF îl poate cere retroactiv, cf. termenelor din Codul de procedură fiscală. Diferența nu e „mai deștept vs. mai prost”. E „conversație vs. tranzacție”.
Când single-LLM e suficient
Dacă sarcina are o intrare, o ieșire și zero efecte secundare — rezumat de contract, clasificare de tichet, traducere de clauză — un model unic cu system prompt bine scris rezolvă. Adaugi RAG dacă vrei citări din surse interne. Vezi și modelul nostru pentru pipeline-uri RAG securizate când datele sunt sensibile.
Cost per apel: previzibil. Latență: sub 3 secunde. Debugging: un log, un prompt, gata.
Când ai nevoie de orchestrator + agenți
Momentul în care apare oricare dintre semnalele de mai jos, single-LLM devine datorie tehnică:
- procesul atinge două sau mai multe sisteme (SAP + SmartBill + e-Factura + SPV)
- rezultatul produce o acțiune (semnare, plată, depunere declarație)
- există poartă de conformitate: GDPR Art. 6(1)(f) sau Directiva (UE) 2022/2555 (NIS2)
- ai nevoie de rollback pe pași individuali
Orchestratorul devine controller-ul: rutează intenția către agentul potrivit, validează output-ul înainte să treacă mai departe, ține state-ul procesului și emite evenimente pentru audit. Agenții specializați rămân subțiri — fiecare știe un lucru: agent-anaf-spv, agent-efactura-validate, agent-onrc-lookup.
process: recuperare_tva_lunar
orchestrator: iris-router-v2
agents:
- name: extract_decont_pdf
model: qwen2.5-vl-72b
max_retries: 2
- name: valideaza_cif_furnizori
tool: anaf.ro/api/PlatitorTvaRest
timeout_ms: 4000
- name: cross_check_e_factura
tool: mfinante.ro/efactura/messages
on_fail: escalate_to_human
audit_sink: postgres://audit.cai/erp_events
retention_days: 2190Arhitectura pe scurt
Regula empirică pe care o aplicăm în implementările IRIS la clienți din retail, distribuție și fintech: dacă procesul are peste trei pași cu efecte reale sau atinge un registru controlat de stat, mergi din start pe orchestrator + agenți. Refactorizarea din single-LLM în agentic la trei luni după go-live costă cât ai construit inițial.
Poziția noastră
Un orchestrator nu e modă arhitecturală, e disciplină de audit. LLM-ul care semnează o declarație D394 trebuie să lase în urmă exact dovezile pe care le-ar cere un inspector fiscal unui contribuabil uman (ghidul ANAF de asistență contribuabili). Fără logică de compensare pe fiecare pas, fără trace per agent, fără versiune de prompt semnată — nu e producție, e demo. Dacă ai un proces RO care atinge SPV, e-Factura sau ONRC, deschide o conversație pe pagina noastră de consultanță pe conformitate.