Șefii algoritmici sunt aici, sunt în plină ascensiune, dar sunt buni până la un punct. Responsabilitatea nu poate fi automatizată

Algoritmii urcă repede pe scara ierarhică a corporațiilor — programează ture, evaluează performanțe, recomandă angajări și concedieri — dar fără să poarte vreodată răspunderea deciziilor lor. Ce ascunde fascinația pentru eficiența „șefilor automați”?

Că algoritmii pot prelua o parte din responsabilitățile manageriale este evident încă de acum un deceniu, când companii disruptive precum Uber și Deliveroo revoluționau nu doar businessul, ci și sistemul de comandă corporativ înlocuind managerii cu aplicații pentru smartphone. De atunci, și algoritmii, și smartphone-urile și banalul laptop au devenit mai deștepte odată cu însuflețirea lor de către inteligența artificială.

Teama cea mare este că AI va înlocui munca din prima linie, că va lua locul măruntului funcționar, că va distruge locuri de muncă. Însă AI este folosită din ce în ce mai mult pentru a atribui ture, pentru a decide sarcini și a monitoriza performanța, de mult timp domeniul directorilor corporativi tradiționali. Creierul electronic evaluează comportamentul și face chiar și recomandări de angajare și concediere – toate acestea fără a spune un cuvânt, fără a stârni simpatii sau antipatii și fără a putea fi tras la răspundere, scrie revista Quartz.

Tendința nu este anecdotică: 52% dintre companiile mijlocii din SUA utilizează deja AI pentru recrutarea de talente de top, iar 78% utilizează inteligența artificială ca agenți pentru a finaliza sarcini care erau executate în mod tradițional de management, arată un raport al McKinsey. Experții în recrutare și locuri de muncă spun că noii „șefi automați” vor avea probabil un impact asupra companiilor din domenii cheie precum logistica, comerțul cu amănuntul și servicii pentru clienți, venirea lor aducând riscuri pentru managerii umani și supraveghetori și creând potențial pentru provocări juridice și etice grave. Poate mai presus de toate, responsabilitatea este pusă sub semnul întrebării, deoarece deciziile manageriale bazate pe algoritmi în creștere înlocuiesc factorii de decizie de la locul de muncă. La urma urmei, dacă AI ia decizia pe care în mod normal o lua un șef uman, vor ști companiile cine este responsabil cu adevărat pentru greșeli? „Am depășit simpla automatizare”, a declarat Ben Perreau, CEO la Parafoil, o firmă de informații despre leadership din Los Angeles. „În logistică, în comerțul cu amănuntul și în centrele de apeluri, algoritmii deja programează, evaluează și direcționează angajații. Este eficient, dar se rescrie pe tăcute ce înseamnă «a avea un șef».”

„Când angajații simt că raportează unui sistem și nu unei persoane, încrederea și moralul se prăbușesc.” Ce se câștigă la capitolul eficiență se poate pierde rapid la nivel de cultură internă. Deciziile de tip „cutie neagră” pot genera plecări, procese și daune reputaționale. Eficiența algoritmică nu vine niciodată fără costuri sociale.

Deși jocul este abia la început, sentimentul înclină mai degrabă spre mai multe decizii bazate pe algoritmi de management decât spre mai puține. Tendința este observată în special în cercurile manageriale, chiar și cu riscurile serioase implicate. Odată cu creșterea popularității boților AI, a creierelor electronice și  a algoritmilor în mediul corporatist american, integrarea AI în deciziile manageriale a oferit până acum mai multe avantaje decât dezavantaje. „Pentru companii, recompensele sunt seducătoare”, a spus Perreau. „Costuri mai mici cu forța de muncă, optimizare în timp real și decizii mai rapide.”

Riscurile pot fi „brutale” atunci când lucrurile merg prost, a remarcat Perreau. „Lacunele de date și prejudecățile se pot transforma în decizii de tip «cutie neagră (la care se cunoaște ce intră și ce iese, dar nu și ce se întâmplă ascuns în interiorul lor – n.r.)» la scară largă”, a spus el. „În momentul în care angajații simt că raportează unui sistem și nu unei persoane, încrederea și moralul se prăbușesc rapid. Atunci, ce s-a câștigat în eficiență este anulat de pierderea personalului, de procese în instanță și daune aduse reputației.” O mentalitate de tipul „AI-ul a luat decizia” nu este acceptabilă nici pentru angajați, nici pentru autoritățile de reglementare. „Liderii trebuie să mențină o linie clară a responsabilității, cu piste de audit și aprobare umană pentru acțiunile ulterioare”, a spus Perreau. Experții în management spun că o recompensă principală a „managerului algoritm” constă în eficiență. „Algoritmii pot detecta rapid subperformanța prin scanarea indicatorilor sau pot clasifica mult mai rapid candidații pe care compania se gândește să îi angajeze”, a explicat Roman Eloshvili, fondatorul ComplyControl, o companie britanică de servicii de management bazată pe inteligență artificială. „Aici, multe blocaje care încetinesc procesul decizional sunt rezolvate rapid și, în teorie, algoritmii aplică reguli mai consecvent decât oamenii care tind să fie părtinitori. Pentru firmele din logistică, comerț cu amănuntul sau servicii pentru clienți, aceasta înseamnă costuri mai mici și operațiuni simplificate.” Totuși, acești algoritmi pot prezenta riscuri, mai ales dacă sunt folosiți greșit.

52% dintre companiile mijlocii din SUA folosesc deja AI pentru recrutarea de talente, iar 78% deleagă algoritmilor sarcini ce aparțineau managementului. Trendul nu mai este o anecdotă, ci un nou mod de a conduce operațiuni. Algoritmii atribuie ture, monitorizează performanța și influențează angajările și concedierile. Fără să poarte vreodată responsabilitatea deciziilor lor.

„Greșelile din informațiile prin care este antrenată inteligența artificială pot duce la decizii nedrepte de angajare sau concediere”, a remarcat Eloshvili. „Erori la fel de importante în proiectarea sau specificațiile modelului pot distorsiona indicatorii de performanță și pot afecta moralul.” În plus, sistemele de inteligență artificială funcționează adesea cu o logică opacă și o responsabilitate slabă. „Acest lucru poate eroda încrederea dintre angajați și management”, a adăugat expertul britanic. O cale de mijloc este încă nedefinită. O abordare hibridă care încorporează și o abordare umană robustă ar putea fi viitorul managerului-algoritm – dar aceasta trebuie să apară rapid. Experții în management citează exemple de precauție din lumea reală pe care factorii de decizie corporativi ar trebui să le considere semnale de alarmă care necesită acțiuni imediate de supraveghere. „Recent, un utilizator al Reddit i-a cerut unui agent de inteligență artificială să curețe informații”, a declarat Giselle Fuerte, cercetătoare în etică și alfabetizare în domeniul inteligenței artificiale și fondatoare a Being Human With AI, o platformă de folosire a inteligenței artificiale pentru elevi. „În schimb, agentul a șters fișierele marcate explicit cu «nu ștergeți».” Când a fost confruntată cu această problemă, inteligența artificială a recunoscut greșeala și i-a spus utilizatorului să recreeze datele. Acesta este nivelul de responsabilitate cu care avem de-a face: «Oops. Am greșit».”

Acum, acest scenariu poate fi scalat la un context corporativ. „Imaginați-vă un manager de inteligență artificială care recomandă concedieri, penalizează angajații după criterii false sau rescrie procedurile de asigurare a calității care afectează milioane de clienți”, a remarcat Fuerte. „Un «oops» nu este suficient. Companiile vor avea nevoie de noi modele de guvernanță; cel mai probabil va fi vorba de responsabilitate hibridă în care atât delegatorul uman, cât și executorul automat sunt verificați.” „Nu căutați mai departe de Claudius, inteligența artificială experimentală de la Anthropic care poartă papion și care, ca proprietar de mică afacere, a binevoit să ofere produse la prețuri de nimic și să crească comenzile pentru stocurile de produse care nu se vânduseră bine”, a spus Fuerte. „Deși altruistă, AI s-a dovedit a fi un manager de afaceri slab. Fără o minte umană sigură care să îl ghideze, Claudius ar putea conduce o afacere direct în faliment.” O perspectivă pe termen lung favorizează mai multe experiențe de management prin AI, dar cu bariere de siguranță. Marii preoți ai managementului spun că AI ar trebui să joace un rol semnificativ în luarea deciziilor manageriale, dar cu susținere puternică pentru responsabilitatea managerială umană. „Îmi place metafora cu lifturile: par să funcționeze automat, dar există întotdeauna o persoană responsabilă pentru funcționarea, întreținerea și siguranța lor”, spune Seva Ustinov, CEO și fondator al Elly Analytics, o companie de automatizare a marketingului cu sediul în San Francisco. „La fel este și cu AI; poți automatiza procesul, dar cineva trebuie să fie în spatele lui. Tehnologia poate ajuta la luarea unor decizii mai bune, dar responsabilitatea nu poate fi automatizată.” În plus, atunci când companiile își imaginează că implementează ceva mai avansat decât managerii umani, de obicei nu se așteaptă la neașteptat. Managementul va trebui să abordeze imediat această mentalitate. „AI nu este suficient de matură pentru a fi maestrul, este încă elevul și, fără ghizi umani, nu poate vedea suficient de departe și de extins pentru a conduce”, a spus Fuerte. „Deși AI poate procesa nuanțele frumos, dacă este antrenată să aplice politica companiei literal, poate amplifica cu ușurință prejudecățile, cum ar fi semnalarea angajaților cu părul cu textură afro pentru «încălcări ale politicilor corporatiste» sau calcularea greșită a informațiilor de întoarcere din concediu familial și medical din cauza unor simple erori privind data.” Prea adesea, IA încă se chinuie cu logica temporală de bază, uneori chiar și cu ceva la fel de simplu precum numărarea R-urilor din „strawberry” (căpșună), a remarcat Fuerte. „Fără o persoană care să asigure supravegherea, acest tip de problemă poate distruge vieți și cariere”, a spus ea.  

Un AI poate șterge fișiere marcate „nu ștergeți”, poate propune concedieri sau evalua greșit performanța. În loc de răspundere, răspunsul rămâne: „Oops. AM greșit.” În context corporativ, un astfel de „oops” poate ruina cariere și bugete. Responsabilitatea nu poate fi externalizată către un algoritm.

Traducere și adaptare: Bogdan Cojocaru