Replay-ul Determinist Face Debugging-ul Agenților AI Tractabil
Trei din patru framework-uri de agenți pe care le audităm nu au nicio modalitate de a reproduce un eșec de marțea trecută. Apelul către model, răspunsul tool-ului, stdout-ul exact — toate pierdute.
Replay-ul Determinist Face Debugging-ul Agenților AI Tractabil
Trei din patru framework-uri de agenți pe care le audităm nu au nicio modalitate de a reproduce un eșec de marțea trecută. Apelul către model, răspunsul tool-ului, stdout-ul exact — toate pierdute. O lucrare arXiv din iulie 2026 (2607.16200) propune o soluție de-o plictiseală reconfortantă: proxiază fiecare apel extern, loghează trace-ul, redă-l offline. Tool-ul se numește agrepl.
Ce face agrepl concret
agrepl este un binar Go care funcționează ca proxy MITM între un agent AI și tot ce atinge acesta — API-uri LLM, tool-uri HTTP, comenzi shell. Fiecare interacțiune este serializată într-un execution trace structurat. La replay, același trace este servit de pe disc, fără conexiune la rețea. Autorii raportează fidelitate de replay F=1.0 pe 250 de execuții cu cinci workload-uri și o reducere mediană a latenței per pas de 98,3%, deoarece în timpul replay-ului nu au loc round-trip-uri externe.
O intrare din trace arată astfel în practică:
{
"step": 47,
"actor": "tool.shell",
"request": {"cmd": "grep -R 'api_key' /repo"},
"response": {"exit": 0, "stdout": "config.py:12: api_key=REDACTED"},
"ts": "2026-07-21T09:14:03.221Z",
"sha256": "b4c8f0a1..."
}Distribuția MIT-licensed ca binar unic contează mai mult decât pare. Fiecare echipă de SRE cu care lucrăm respinge în mod tacit tool-urile de observabilitate pentru agenți care cer un cluster sidecar.
De ce este o primitivă de safety, nu o comoditate de debugging
EU AI Act (Regulamentul (UE) 2024/1689) obligă furnizorii de AI cu risc ridicat să păstreze loguri automate „pe durata de viață a sistemului” (Art. 12) și să deruleze monitorizare post-market (Art. 72). AI RMF de la NIST (GOVERN 1.5) formulează cerința ca output-uri „trasabile, revizuibile, corectabile”, iar NIST SP 800-53 Rev 5 (AU-11 audit record retention) fixează controlul operațional. Nimic din toate acestea nu este satisfăcut doar de logurile de output ale LLM-ului — aveți nevoie de granița I/O completă a agentului, exact ceea ce înregistrează agrepl.
Raportul ENISA 2024 privind peisajul amenințărilor pentru AI (raport ENISA) listează „lipsa reproductibilității” ca obstacol în forensics-ul incidentelor. Replay-ul determinist închide această breșă: un incident devine un fișier trace pe care îl predați unui inginer de securitate, care îl rerulează într-un VM air-gapped. Exact asta susține practica noastră de agentic AI safety — safety-ul trăiește în topologia runtime, nu în weights.
Perspectiva noastră la CAI Technology
Livrăm fiecare agent intern cu un proxy în mod record din prima zi. Fișierul trace este artefactul revizuit în post-mortem-uri, nu o transcriere Slack reconstituită din memorie. agrepl este suficient de aproape de acest pattern încât intenționăm să-l testăm comparativ cu recorder-ul nostru intern pe workload-urile de network detection din trimestrul următor. Reducerea de latență de 98,3% la replay face ca testarea de regresie a comportamentului agenților în CI să fie în sfârșit ieftină — anterior, fiecare rulare de CI consuma token-uri API reale.
Echipele care evaluează framework-uri de agenți ar trebui să trateze suportul de replay ca o cerință obligatorie, nu ca un nice-to-have. Contactați-ne dacă doriți un walkthrough despre cum se integrează trace-urile deterministe în timeline-ul de conformitate recalibrat de întârzierea AI Act.