Introducere
Majoritatea companiilor care testează IA pentru asistența clienților se lovesc de aceeași barieră. Sistemul funcționează bine timp de câteva săptămâni. Apoi oferă unui client un răspuns sigur, dar complet greșit. Poate despre termenul de rambursare. Poate despre o politică care s-a modificat în trimestrul trecut. Un superior observă acest lucru, iar implementarea, care trebuia să acopere cea mai mare parte a cozii de așteptare, se blochează în liniște la doar o mică parte din aceasta.
Datele din industrie confirmă cât de frecvent este acest tipar. Raportul „2025 World Quality Report” realizat de OpenText, Capgemini și Sogeti a constatat că preocupările legate de fiabilitate și de erori erau principalul obstacol în calea adoptării IA pentru 60% dintre organizațiile chestionate. O cercetare separată realizată de Gong a constatat că 58% dintre companii au blocat proiectele de IA, iar aproape jumătate din investițiile planificate în IA au fost reținute din cauza preocupărilor legate de încredere, mai degrabă decât din cauza bugetului. Instrumentele sunt capabile. Încrederea în ele este cea care rămâne în urmă.
Matematica din spatele unui singur răspuns greșit
Activitatea de asistență este asimetrică într-un mod care penalizează precizia medie ca indicator. Un răspuns corect economisește câteva minute. Unul greșit poate aproba o rambursare care nu ar fi trebuit să fie acordată niciodată, poate inventa o politică care nu a existat niciodată sau poate lua un angajament pe care nimeni nu l-a autorizat. Când dezavantajul unei singure greșeli depășește avantajul a o sută de răspunsuri corecte, optimizarea pentru cazul mediu este un obiectiv complet greșit.
Există și un cost mai ascuns. Un coordonator de asistență care observă o singură dată că IA greșește începe să verifice de două ori totul de atunci încolo, ceea ce anulează cea mai mare parte a timpului pe care ar fi trebuit să-l economisească. Încrederea nu se evaluează pe fiecare conversație în parte. Ea se consolidează sau se prăbușește, iar odată ce se prăbușește, echipele încetează să mai aibă încredere în sistem chiar și atunci când acesta are dreptate în majoritatea cazurilor.
Halucinațiile nu dispar, ci sunt gestionate
Chiar și cele mai puternice modele lingvistice inventează informații în condițiile potrivite, iar cifrele reale sunt mai mari decât presupun majoritatea oamenilor. În cazul rezumării bazate pe surse concrete – o sarcină esențial identică cu răspunsul la întrebări pe baza propriilor documente de ajutor – clasamentul Vectara privind halucinațiile plasează cele mai bune modele în jurul valorii de 3% și arată că modelele de referință binecunoscute se situează între 6% și 15%. Unele modele care implică un raționament complex depășesc 20% la aceeași sarcină, deoarece raționamentul mai profund le oferă mai mult spațiu pentru a introduce afirmații pe care textul sursă nu le-a făcut niciodată. Dacă supui un model la întrebări deschise, fără nimic care să-l ancoreze, cifrele devin mult mai proaste. Cercetătorii de la Stanford au descoperit că modelele de vârf halucinează în cazul unei mari majorități de întrebări juridice specifice atunci când nu li se furnizează niciun document sursă.
Nimic din toate acestea nu înseamnă că un anumit model este slab. Înseamnă că niciun model, folosit singur, nu este suficient de fiabil pentru a fi prezentat clienților plătitori fără ca ceva să-l supravegheze.
Inteligența și controlul trag în direcții opuse
Există un motiv structural pentru care un singur model nu poate rezolva această problemă de unul singur. Pe măsură ce un sistem devine mai bun în gestionarea cazurilor ambigue sau necunoscute, devine totodată mai greu de prevăzut în totalitate, deoarece același raționament care îi permite să gestioneze un caz pentru care nimeni nu a scris un scenariu este raționamentul care, ocazional, îl conduce undeva unde nu ar trebui să ajungă. Un model mai capabil nu este automat unul mai sigur. Acest compromis explică de ce fiabilitatea trebuie proiectată ca un strat în jurul modelului, mai degrabă decât să se aștepte ca modelul să o ofere de unul singur.
Aissist abordează această problemă cu patru tehnici stratificate, în loc de una singură. Ingineria prompturilor stabilește regulile de bază pe care le urmează fiecare sarcină, ceea ce contează mai mult într-un sistem agentic în care o singură solicitare a clientului se poate extinde în mai mult de o duzină de sarcini secundare, care trebuie să respecte toate aceleași limite de siguranță. O etapă de „booster” rulează deciziile incerte de mai multe ori și păstrează răspunsul asupra căruia majoritatea agenților sunt de acord, cu prețul unui efort de calcul suplimentar. O etapă de autoinspecție face ca sistemul să-și revizuiască propriul rezultat sau să-l transmită unui al doilea model cu un rol diferit, înainte ca orice informație să ajungă la client. Iar un strat de guvernanță suprapus se află deasupra tuturor acestora, verificând dacă un rezultat sau o acțiune respectă politica înainte de a fi transmisă, funcționând mai puțin ca un filtru și mai mult ca un supraveghetor al întregului sistem.
Această combinație este modul în care platforma își menține rata de eroare a IA sub 1%, o cifră demnă de remarcat mai ales pentru că foarte puțini furnizori din acest domeniu publică deloc o astfel de cifră.
A decide când să nu răspundă
Cel mai valoros comportament al unui agent de asistență nu este acela de a răspunde corect la mai multe întrebări. Este recunoașterea celor la care nu ar trebui să încerce să răspundă singur. Un sistem care escaladează din timp o dispută complicată privind facturarea, cu contextul complet atașat, provoacă mult mai puține daune decât unul care merge mai departe și face presupuneri. Acesta este, de asemenea, ceea ce diferențiază un agent care descrie o soluție de unul care o aplică efectiv, accesând comanda, efectuând modificarea și confirmând-o clientului.
Fiabilitatea trebuie menținută, nu doar construită
Un sistem care este precis în ziua lansării nu va rămâne așa fără ca cineva să-l monitorizeze. Produsele se schimbă, politicile sunt actualizate, iar întrebările pe care le pun clienții evoluează odată cu acestea. Măsurarea continuă surprinde această evoluție sub formă de date, nu ca un val de reclamații, iar un ciclu disciplinat de evaluare, testare și lansare continuă să elimine lacunele identificate, cu un om care aprobă în continuare înainte ca orice schimbare să devină realitate.
Ce trebuie verificat de fapt înainte de a avea încredere într-un furnizor
Orice furnizor care susține că IA sa nu greșește niciodată ar trebui privit cu suspiciune, deoarece acest lucru înseamnă, de obicei, că nimeni nu măsoară suficient de atent pentru a ști dacă este altfel. Cei care merită luați în serios publică o rată de eroare, explică exact cum detectează greșelile înainte ca clienții să le observe și sunt transparenți cu privire la momentul în care sistemul preda sarcina unei persoane, în loc să facă presupuneri. Aceasta este o abordare foarte diferită de „aveți încredere în IA” și este cea care rezistă cu adevărat odată ce volumul real de solicitări ajunge la sistem.
