Un asistent AI pentru documentele firmei trebuie să știe și când să se oprească

În multe firme, aceeași întrebare ajunge de câteva ori pe săptămână la același om: unde găsesc procedura, cine aprobă cererea, care variantă a documentului mai este valabilă? Un asistent AI poate ajuta. Dar utilitatea lui se vede mai ales atunci când informația lipsește, s-a schimbat sau nu este destinată celui care întreabă.

RAG este o metodă prin care aplicația caută informații în documente și trimite fragmente relevante modelului care formulează răspunsul. Nu garantează că răspunsul va fi corect. Chiar și împărțirea unui document în fragmente poate elimina context important, după cum arată explicația Anthropic despre recuperarea informațiilor.

Să luăm un exemplu ipotetic: un asistent intern pentru procedurile de deplasare. Nu prezentăm aici un proiect de client, ci felul în care am delimita și verifica o astfel de soluție.

Începe cu o nevoie concretă

Un angajat întreabă: „Pot rezerva hotelul înainte să-mi aprobe managerul deplasarea?” Are nevoie de regula care i se aplică, de documentul în vigoare și de pasajul care explică ordinea pașilor. Un răspuns fluent, dar ambiguu, nu îl ajută să decidă corect.

Pentru prima versiune, am include doar procedura de deplasare, regulile de decontare și instrucțiunile de rezervare aprobate. Dosarele individuale și informațiile salariale nu ar intra în acest proiect. Alegerea unei arii clare și a unor întrebări reale este și punctul de plecare din ghidul Microsoft pentru pregătirea unui sistem RAG.

Asistentul explică procedura. Aprobarea deplasării rămâne la persoana desemnată de firmă.

Accesul se verifică înainte ca informația să ajungă la model

Aplicația trebuie să identifice utilizatorul și să aplice pe server drepturile lui actuale. Nu este suficient ca acesta să scrie în conversație că lucrează la financiar. Nici instrucțiunea „nu divulga informații confidențiale” nu înlocuiește controlul accesului.

Restricțiile trebuie păstrate și pentru fragmentele căutate, inclusiv separarea datelor între firme atunci când infrastructura este comună. Microsoft descrie filtrarea rezultatelor în funcție de acces, precizând că acel filtru nu autentifică utilizatorul în locul aplicației.

În exemplul nostru, angajatul poate consulta regula generală fără să primească acordul special de decontare al unui coleg. La deschiderea unei surse citate, accesul se verifică din nou. Dacă verificarea nu poate fi făcută, răspunsul se oprește; modelul nu decide cine are voie să vadă documentul.

Sursa trebuie să susțină ce scrie în răspuns

Un link către un PDF nu face automat răspunsul corect. Documentul poate cere aprobare înainte de rezervare, iar asistentul poate interpreta greșit că aprobarea se obține ulterior.

Am păstra identificatorul sursei, versiunea și trimiterea la pasajul folosit. Verificarea urmărește dacă afirmația este susținută integral, nu doar dacă documentul vorbește despre același subiect. Această diferență apare și în documentația Google despre verificarea afirmațiilor față de surse.

Pentru utilizator, rezultatul ar trebui să fie simplu: o explicație scurtă și acces la paragraful relevant. Pentru echipa care livrează sistemul, înseamnă verificări automate completate de evaluarea unor cazuri reprezentative de către oameni.

Cine se ocupă de informațiile care expiră?

Dacă procedura se schimbă luni, nu este suficient să înlocuim fișierul original. Am actualiza fragmentele din index și am invalida răspunsurile memorate care depind de versiunea veche. Ștergerea unei surse sau retragerea accesului trebuie să se reflecte și în datele derivate. Ghidul OWASP pentru securitatea RAG tratează explicit aceste riscuri.

Cu responsabilul procedurii am stabili cât de repede trebuie preluate modificările și cum aflăm că o sincronizare a eșuat. Dacă nu putem confirma că informația este actuală, asistentul trebuie să spună asta. O regulă veche, prezentată cu siguranță, poate genera cheltuieli și discuții inutile.

Verifică și cazurile în care răspunsul trebuie refuzat

Înainte de lansare, am testa întrebări obișnuite, versiuni contradictorii, excepții nespecificate, acces retras și documente care conțin instrucțiuni malițioase. Textul găsit este material de consultat, nu o comandă care schimbă regulile aplicației.

Căutarea și răspunsul se evaluează separat. Ghidul Microsoft pentru evaluarea RAG explică de ce respectarea sursei, corectitudinea și caracterul complet al răspunsului sunt criterii distincte.

„Nu pot confirma această excepție; cere lămuriri responsabilului procedurii” poate fi exact răspunsul potrivit. Important este să explice ce lipsește și care este următorul pas, fără să dezvăluie informații restricționate.

Un proiect pilot trebuie să aibă surse aprobate, reguli de acces, criterii de acceptare, responsabil pentru actualizări și costuri de operare clare. Spune-ne ce documente și întrebări consumă timpul echipei tale, iar de acolo putem defini o primă versiune utilă și verificabilă.