Guvernanța în era AI: între fascinație, etică și control. Ce ar trebui să facă boardul unei companii?

De la începutul anului trecut, aproape fiecare întâlnire de board în care sunt implicat include cel puțin o referire la AI. Uneori, aceasta vine sub forma unui entuziasm nedeclarat: „Ne gândim să introducem un chatbot intern, să generăm propuneri de contracte sau să scriem briefuri de marketing cu AI.” Alteori, sub forma unei neliniști surde: „Dacă AI-ul greșește, cine răspunde? Cum ne asigurăm că nu luăm decizii bazate pe date toxice?”

Dorim să implementăm cât mai multe soluții tehnologice care încorporează AI, dar în același timp să nu uităm obligația de a verifica riguros, din timp, rezultatele și modul de lucru, pentru a nu atrage riscuri asupra companiei.

Să ne imaginăm, de exemplu, o companie de servicii financiare, care implementează un flux în care se folosește inteligența artificială pentru scoring comportamental în etapa de pre-aprobare a clienților. Să spunem că este un model învățat din istoricul tranzacțiilor și care oferă un rating de risc „intern”. Boardul ar fi complet fascinat de eficiență: în loc de trei analize umane, algoritmul ar livra rezultatul în 15 secunde. Dar când întrebăm despre politica de explainability, adică dacă pot explica deciziile algoritmului, este esențial să primim răspunsuri clare, documentate și testate, nu explicații superficiale. Altfel, implementăm tehnologie și importăm riscuri în companie fără un management adecvat al acestora.

Am fost abordat recent de o companie care folosea AI pentru a analiza în timp real feed-uri video din magazine și dorea să transfere această tehnologie în lanțurile de retail. Scopul nu era securitatea, ci și recunoașterea expresiilor faciale și adaptarea automată a promoțiilor. Când am întrebat dacă a fost făcută o analiză de impact asupra vieții private sau dacă există o decizie formală de asumare a riscurilor etice, răspunsul a fost: „furnizorul are toate certificările”. Dar dacă nu are toate certificările? Cine răspunde, de fapt – strategic, operațional și reputațional? Furnizorul, retailerul? Sau amândoi?

De fapt, aici este miezul problemei. AI-ul nu este doar un instrument tehnologic, ci un actor care influențează, direct sau indirect, deciziile unei organizații. Cu cât este mai integrat în procesele interne, cu atât este mai necesară o guvernanță reală și articulată. Nu e suficient ca boardurile să aprobe bugete de transformare digitală sau să întrebe trimestrial dacă „funcționează AI-ul”. Este esențial să existe un cadru în care AI-ul este auditat, contextualizat și supus acelorași rigori ca orice alt sistem critic.

Uniunea Europeană a înțeles acest lucru și a acționat. “AI Act”, adoptat în 2024, este primul cadru legal comprehensiv pentru inteligența artificială, bazat pe o clasificare a riscurilor: de la cele minime, acceptate fără restricții, la cele ridicate, care necesită audit, supraveghere umană, transparență, guvernanță a datelor și documentație completă. Sistemele care afectează viața oamenilor, în creditare, sănătate, educație, angajare sau justiție, sunt considerate „high-risk”. Orice companie care le folosește trebuie să îndeplinească cerințe clare, sub sancțiunea unor amenzi de până la 7% din cifra de afaceri. Pentru prima dată, membrii de board pot răspunde legal pentru un algoritm pe care nu l-au înțeles sau validat corespunzător.

Și in acest context, cine răspunde efectiv pentru AI într-o companie? În multe organizații, responsabilitatea este difuză: IT, HR, legal, marketing sau digital transformation. Însă realitatea este că, fără o funcție clară care să coordoneze întregul ecosistem AI, guvernanța rămâne fragilă. Unele companii din afara României au început să numească un Chief AI Officer. Altele integrează această responsabilitate în structura CIO-ului sau, mai nou, a Chief Data & Ethics Officer-ului, atunci când există. Dar în lipsa unei asumări formale, cu raportare directă către CEO, AI-ul risca sa rămâna un teritoriu gri neasumat decizional. În companiile în care sunt advisor, recomand ca responsabilitatea finală să revină unui „sponsor executiv” cu greutate, ideal CEO sau CFO, iar supravegherea să fie formalizată într-un comitet mixt: tehnic, juridic și etic.

În organizațiile unde AI-ul este deja integrat, iar conducerea executivă și/sau boardul primește lunar rapoarte generate de AI, aceste rapoarte au început ca instrumente de suport, dar treptat au devenit influențatori decizionali. Nimeni nu mai întreabă „de ce spune asta AI ul?”, ci doar „cât de repede putem implementa ce spune?”. Riscul nu este generat de AI, dar in special de abandonarea discernământului uman.

De aceea, boardurile trebuie să întrebe: Cine decide unde integrăm AI-ul și de ce? Există o evaluare a riscurilor, nu doar a eficienței? Cum documentăm deciziile luate cu suport AI și cum gestionăm erorile algoritmului? Avem un cod etic pentru AI sau doar un contract cu vendorul?

Discutăm în comunitatea de profesioniști în guvernanță corporativă următoarea întrebare: „Putem avea un membru AI în board?” În Asia, există start-up-uri care au numit un AI ca observator permanent în board, cu acces la documente, la date financiare și la procesele decizionale. AI-ul oferă recomandări, face previziuni și chiar votează simbolic. Dar etic și juridic, apar întrebări fundamentale. Poate AI-ul să aiba obligatii legale față de companie și acționari? Poate înțelege nuanțele culturale, riscurile reputaționale sau contextul politic? Poate evalua un CEO, nu doar în baza KPI-urilor, ci și în baza integrității și a capacității de leadership în criză? Deocamdată, răspunsul este nu. Dar întrebarea merită pusă serios, pentru a înțelege cât de departe suntem dispuși să împingem delegarea deciziei.

Din fericire, boardurile au datoria să înțeleagă ceea ce aprobă. Să pună întrebări, să ceară audituri, să definească linii roșii, să ceară explicații și să nu lase niciun algoritm să ia decizii ireversibile fără asumare umană. Pentru că AI-ul poate genera eficiență, dar doar guvernanța generează încredere.

Ciprian Lăduncă ocupa pozitia de Managing Partner in cadrul LCL Advisory, este membru in consiliile de administratie ale unor companii din diverse sectoare și detine functia de Președinte al Comitetului pentru Guvernanță Corporativă al Camerei de Comert Americane, AmCham România.