Cât de multă încredere poți avea în AI? Până și marile corporații sunt induse în eroare de noile tehnologii: Gigantul EY a retras un studiu care conținea halucinații generate de AI și note de subsol false

EY a retras un studiu despre programele de recompense și loialitate care conținea aparente halucinații generate de AI și note de subsol false, într-un nou exemplu despre cum firmele de servicii profesionale pot fi induse în eroare de noile tehnologii, scrie FT. 

Studiul, folosit de consultanții EY din Canada pentru a-și promova serviciile de securitate cibernetică, includea date inventate, citări atribuite greșit și făcea referire la un raport McKinsey care, de fapt, nu există, au descoperit cercetători online.

EY Canada a eliminat studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, de pe site-ul său după ce problemele au fost semnalate joi seară de grupul de cercetare GPTZero.

Cercetătorii au arătat că raportul se baza pe date eronate sau inconsistente pentru a susține ideea că programele de loialitate sunt vulnerabile la fraudă. În diferite secțiuni ale raportului, piața programelor de loialitate era estimată la 200 de miliarde de dolari, iar valoarea punctelor de loialitate nefolosite era indicată exact la aceeași sumă.

GPTZero a descoperit, de asemenea, că mai mult de șase note de subsol din raportul EY trimiteau către pagini web inexistente sau care nu conțineau informațiile citate.

„Publicarea unui raport online este, practic, o formă de injectare de date în fondul de cunoștințe care este internetul”, au scris cercetătorii GPTZero, Om Ogale, Paul Esau și Alex Cui, într-o postare pe blog.

„Atunci când raportul include informații false — fie citări inventate, fie afirmații neadevărate — acesta poate «otrăvi fântâna» prin inducerea în eroare a cercetătorilor viitori, mai ales dacă raportul este publicat de o firmă de consultanță cunoscută și găzduit pe un site cu trafic ridicat.”

Halucinațiile generate de AI au devenit o problemă recurentă în sectorul serviciilor profesionale. Rivalul EY din Big Four, Deloitte, a fost nevoit anul trecut să revizuiască un raport pentru un guvern provincial canadian după ce s-a descoperit că acesta conținea citări academice false.

Iar luna trecută, firma de avocatură Sullivan & Cromwell și-a cerut scuze unei instanțe din New York după ce un document depus într-un caz important cita în mod repetat greșit codul american al falimentului și făcea referire incorectă la precedente juridice.

Cu toate acestea, firmele de consultanță continuă să adopte agresiv AI-ul, investind masiv în tehnologie, instruind angajații să o utilizeze și promovând serviciile lor de implementare către clienți.

EY susținea în octombrie că veniturile sale legate de AI au crescut cu 30% în anul precedent și că 15.000 de angajați au lucrat la proiecte pentru clienți „de la transformări la nivel de companie până la cadre de guvernanță AI care susțin implementarea responsabilă a inteligenței artificiale”.

EY a declarat că a eliminat raportul despre programele de loialitate de pe site-ul său și că „analizează circumstanțele care au dus la publicarea acestui articol”, adăugând că studiul nu era legat de activitatea pentru vreun client EY.

„EY Canada tratează cu seriozitate acuratețea tuturor materialelor pe care le publică și are un angajament la nivelul întregii organizații privind utilizarea responsabilă a AI”, a transmis compania.