Unde-i lege, nu-i AI. E inteligența artificială un pericol pentru omenire?

Primul gând despre pericolele legate de inteligența artificială (AI) este despre stăpânirea lumii. Filmele aveau cumva dreptate, totuși: AI deja face parte din viața noastră de zi cu zi și deja este, chiar dacă abia la început, unul dintre pilonii economiei digitale. Pericole există, și aici au nimerit-o în filme, doar că nu exact cum și-au imaginat cineaștii.

Scăpată din mână, tehnologia poate duce la abuzuri și chiar mașina în sine poate abuza, pentru că așa a învățat de la stăpânii ei, adică de la bazele de date pe care este antrenată. AI umblă liberă și aproape nestingherită în toată lumea, însă atât Uniunea Europeană, cât și Statele Unite lucrează deja la pachete de legi care să reglementeze domeniul. De ce este nevoie de legi și care sunt pericolele reale ale AI?

„Suntem acum pe ultima sută de metri la negocierile finale, deci pe negocierile internaționale cu Consiliul și Comisia. Deci undeva, sper eu în noiembrie, decembrie cel târziu, să avem actul adoptat, ceea ce ne face prima jurisdicție la nivel global care are asemenea un asemenea set de reguli”, spune Dragoș Tudorache, europarlamentar, președintele comisiei de AI și raportorul din Parlamentul European pe pachetul de legi privind reglementarea inteligenței artificiale. Manipularea focului, prima descoperire epocală a omului, a jucat un rol crucial în supraviețuirea și evoluția speciei până în vârful lanțului trofic. Prepararea unor alimente care fără foc nu pot fi mestecate, precum cerealele, sau încălzirea atunci când natura îți e potrivnică aproape că sunt un dar divin, așa cum, de fapt, credeau grecii: Prometeu a furat focul din atelierul fierarului zeilor, Hefaistos, și l-a adus omului. Cu focul nu-i de joacă, însă, pentru că pe cât de util este, pe atât de distrugător poate fi. O țigară aprinsă aruncată aiurea sau un joc de artificii inocent într-un club din București se pot și s-au transformat în tragedii. Cum poți reglementa focul? Nu poți, dar poți să abordezi riscurile pe care le prezintă, poți să îl interzici în anumite spații sau să obligi companiile care îl folosesc să îl utilizeze cu responsabilitate. Aceasta este și ideea pe care a fost construit regulamentul european AI Act, explică Dragoș Tudorache: „Avem nevoie să jalonăm dezvoltarea AI, nu s-o interzicem, nu să o oprim, pentru că e foarte bună. Dar ea trebuie ghidată cumva, trebuie spus ce anume trebuie făcut și pentru că principiile, doar ele, nu funcționează și autodisciplina companiilor nu este suficientă”. În termeni practici, autorii proiectului de lege s-au gândit care sunt riscurile folosirii tehnologiei și cum pot fi abordate. Pentru unele aplicații, cum ar fi supravegherea în masă, AI va fi pur și simplu interzisă în Uniunea Europeană. Uniunea Europeană va veni cu un regulament, adică un act normativ care, atunci când intră în vigoare, trebuie aplicat de statele membre într-un termen stabilit, cum a fost, de exemplu, regulamentul GDPR pentru protecția datelor cu caracter personal.  Pentru a realiza un articol echilibrat, BUSINESS Magazin a întrebat și inteligența artificială ce părere are despre propria reglementare. Iată ce răspunde ChatGPT, cel mai celebru chatbot bazat pe inteligență artificială, dezvoltat de OpenAI și în care a investit și Microsoft: „Reglementarea utilizării inteligenței artificiale este o problemă importantă și complexă. Este crucial să se găsească un echilibru între promovarea inovației și protejarea drepturilor, siguranței și confidențialității cetățenilor. În general, regulamentele precum AI Act au scopul de a stabili linii directoare clare și standarde pentru utilizarea inteligenței artificiale, în special în domenii sensibile cum ar fi sănătatea, securitatea publică și drepturile fundamentale ale oamenilor”. Întrebat dacă AI ar trebui interzis în anumite domenii, mașina dă un răspuns diplomatic: „În ceea ce privește utilizarea inteligenței artificiale (AI), nu există un răspuns simplu și universal valabil cu privire la dacă ar trebui sau nu să fie interzisă în anumite domenii. Decizia de a interzice sau de a reglementa AI într-un anumit domeniu depinde de mai mulți factori, inclusiv impactul potențial al tehnologiei, riscurile asociate și beneficiile care pot fi obținute.” ChatGPT admite, însă, că pot fi domenii în care AI ar trebui interzisă, cum ar fi în domeniul armamentului autonom, unde ar putea fi folosită pentru a lua decizii legate de viața și moartea unor persoane. Dragoș Tudorache a explicat însă că interzicerea AI se va extinde către mai multe domenii: supravegherea în masă, anticiparea comiterii infracțiunilor sau a riscului de recidivă, manipularea subliminală sau scanarea internetului pentru anumite scopuri.  În China, există în plină desfășurare un sistem de scor social (social scoring) bazat pe AI. Sunt milioane de camere cu recunoaștere facială și dotate cu AI care supraveghează comportamentul cetățenilor. Dacă arunci un gunoi pe stradă, sau treci strada printr-un loc nepermis, amenda se retrage direct din cont și scorul social scade. Când scorul ajunge jos, cetățenii nu mai pot accesa credite bancare, călătorii sau cumpăra anumite produse de la supermarket. Sigur că în esență poate părea un lucru bun, dar, la fel cum și comunismul a fost un concept bun la bază, dă naștere unor abuzuri monstruoase. „Partea de anticipare a comitere acțiunilor sau a recidivei acestor infracțiuni intră la interzis, pentru că aici AI nu aduce nimic bun. Sau la utilizarea în timp real a AI-ului pentru supraveghere publică, utilizând și componente biometrice. Da, din nou, noi, ca europeni, spunem că acestea nu sunt valorile noastre și nu vrem acest  lucru în societate. Sau pentru scor social, cum fac chinezii, folosesc AI să facă acest scor social”, mai spune Tudorache. Sistemul penal englezesc a început primul să folosească AI pentru a determina riscul de recidivă și a antrenat-o pe bazele de date existente: „Și ce să vezi? Pentru că populația carcerală, istoric vorbind, era din anumite medii sociale, din anumite medii etnice, din anumite părți din oraș, mașina scotea mereu nume bănuite de recidivă din acea zonă”. De asemenea, în manipularea subliminală este interzisă folosirea AI, precum și în identificarea emoțiilor unei persoane după expresiile faciale. Ce înseamnă manipulare subliminală? „Înseamnă să folosesc tehnologia pentru a trimite anumiți stimuli către senzorii tăi umani la nivel vizual, auditiv, olfactiv, cognitiv, mai jos de linia ta de percepție, ca să te determin să faci ceva. Ca exemplu de tehnologie care este încă folosită, dar după asta n-o să mai fie, șoferii de camioane pe cursă lungă primesc ultrasunete pe care urechea umană nu le percepe, dar care îi fac să stea mai mult timp fără să doarmă”, explică Dragoș Tudorache. Dincolo de domeniile în care AI va fi strict interzisă, mai sunt domeniile unde va fi reglementată. Robotul nu știe să nu discrimineze, dacă bazele de date pe care este antrenat sunt discriminatorii. De exemplu, a fost folosit în zona de recrutare, pentru a selecta acei candidați care să meargă la interviu, dintre mai multe CV-uri. Dacă, istoric, statistic, candidații selectați erau în proporție de 80% bărbați și 20% femei, robotul a selectat în această proporție. „A fost discriminare pentru că începuse să fie folosită AI pe zone de recrutare, pe analize de la bănci, de scor de credit, în asigurări. Deci practic în acele tipuri de decizii automatizate care se bazau în spate pe algoritm. S-a dovedit că bazele de date, fiind istoric distorsionate, AI prelucrează aceste date”, mai spune Tudorache.

Impactul legii asupra companiilor va fi minim, spune el, în vizor fiind mai mult cei care utilizau AI în scopurile descrise mai sus, unde AI va fi interzisă: „Estimarea Comisiei este că undeva la 85% și chiar 90% din companiile care dezvoltă sau utilizează AI nu vor fi nici într-un fel afectate de legislație. Pentru că numai cei ce dezvoltă AI în zona asta de risc mare practic se supun reglementărilor”. Care vor fi însă consecințele încălcării regulamentului și cum vor fi verificate companiile? Tot cu ajutorul AI, explică el: va fi folosit pentru a căuta și sancționa și vor fi și autorități de reglementare. „Vor fi amenzi de până la 6% din cifra de afaceri și cu posibilitatea de alte investigații. Orice cetățean va putea să semnaleze probleme în interacțiunea cu AI”. Inteligența artificială a intrat mult mai puternic în atenția publicului larg odată cu folosirea la scară largă a ChatGPT și estimările sunt  că în următorii ani aproape orice job va avea o componentă de AI. Uniunea Europeană va deveni primul spațiu în care folosirea inteligenței artificiale va fi reglementată și va da tonul pentru reglementarea noului „foc” care, în mâinile greșite, se poate transforma într-o armă redutabilă.  

Ce părere are inteligența artificială despre propria reglementare. BUSINESS Magazin a întrebat ChatGPT