Unde merită AI-ul și unde e doar cost
AI-ul nu e valoare sau cost în sine. Depinde ce fel de decizie preia într-un sistem: o judecată repetitivă sau o regulă care trebuie să rămână adevărată de fiecare dată.
AI-ul aduce valoare acolo unde preia o judecată mică, repetată de multe ori, care tolerează o eroare ocazională. Acolo unde trebuie să țină loc unei reguli care rămâne adevărată de fiecare dată, e cost în plus: bani pe fiecare apel, ore de verificare umană și un sistem mai fragil decât varianta lui deterministă.
Două feluri de decizie
Orice sistem software e făcut din decizii. Unele sunt invarianți - trebuie să rămână adevărate de fiecare dată, fără excepție: un cont nu ajunge la sold negativ, o comandă plătită nu dispare din baza de date. Altele sunt judecăți: volumul ăsta e o anomalie sau o variație normală? Cazul merită escaladat? O judecată tolerează o eroare ocazională atunci când efectul ei e reversibil sau trece pe la un om înainte să se execute. Invarianții nu tolerează niciuna.
Modelele de limbaj sunt construite pentru a doua categorie și sunt slabe, structural, la prima. Chiar și cu temperatura setată pe 0, rezultatele nu sunt complet deterministe, iar aceleași intrări pot produce răspunsuri diferite la apeluri diferite[3] - așa scrie documentația Anthropic despre serviciile de inferență, ale ei și ale furnizorilor terți. Variația vine din felul în care rulează inferența, deci nu e un reglaj pe care să-l mai strângi cu un parametru. Dacă pui un asemenea model să garanteze un invariant, plătești de două ori: o dată apelul, a doua oară stratul de verificare pe care tot trebuie să-l construiești ca să prinzi cazurile în care a greșit.
Ce spun cifrele
Peste 40% din proiectele de AI agentic vor fi abandonate până la finalul lui 2027[1], estimează Gartner. Cauzele citate sunt costurile care scapă de sub control, valoarea de business neclară și controalele de risc insuficiente. Tot Gartner notează, în același material, că modelele actuale nu au maturitatea și autonomia necesare ca să atingă singure obiective complexe de business și că mulți furnizori practică „agent washing” - rebranduirea unor produse existente drept agenți. Contează deci și ce cumperi, la fel de mult ca locul în care pui AI-ul.
Un raport MIT relatat de Fortune măsoară altceva și ajunge la o imagine la fel de proastă. 95% dintre piloții de AI generativ din companii produc un impact măsurabil redus sau inexistent asupra profitului[2]. Detaliul care contează e unde s-a dus bugetul față de unde s-a găsit valoarea: cel mai mare randament a fost în automatizarea din back-office, dar peste jumătate din bugetele de AI generativ au mers spre unelte de vânzări și marketing[2]. Iar achizițiile de la furnizori specializați au reușit în circa 67% din cazuri, în timp ce dezvoltările interne au reușit de trei ori mai rar[2]. MIT a măsurat companii mari, cu bugete de AI pe măsură. La scara unui sistem cu douăzeci de oameni se transferă mai degrabă direcția privirii decât procentul: valoarea a stat unde se făcea treaba, iar banii au plecat unde se vedea rezultatul.
Regula practică
Înainte să adaugi AI într-un punct al unui sistem, merită întrebarea inversă: ce se întâmplă când răspunsul de aici e greșit? Dacă răspunsul e „nimic grav, se corectează la următoarea rulare”, locul poate fi potrivit, cu costul și confidențialitatea datelor cântărite separat. Dacă răspunsul e „un client vede o factură greșită”, invariantul trebuie să stea în cod sau în schemă, verificat determinist, nu într-un prompt care presupune că modelul respectă instrucțiunea de fiecare dată.
Regula noastră de proiectare pornește de aici: AI acolo unde scutește un om de o sută de decizii mărunte pe zi și acolo unde citește volum mare de date non-critice ca să scoată un tipar; reguli fixe, testate, acolo unde o greșeală costă direct. Când un invariant ajunge, din comoditate, să fie scris ca instrucțiune în prompt, îl mutăm în schemă sau în validare: o instrucțiune respectată de obicei rămâne o preferință, nu o garanție. Stratul determinist ține garanția, stratul de model ține judecata.
Dacă vrei să treci sistemul tău prin întrebarea asta, scrie-ne la [email protected].