Predicții sumbre despre viitorul umanității în relația cu inteligența artificială, făcute chiar de unul dintre cei mai importanți cercetători în domeniu

Cercetătorul-șef al companiei Anthropic, care a creat Claude, Jared Kaplan, face unele predicții sumbre despre viitorul umanității în relația cu inteligența artificială, scrie un articol publicat pe platforma futurism.com. 

În viziunea sa, alegerea ne aparține. Deocamdată, soarta noastră este încă, în mare măsură, în mâinile noastre, spune Kaplan — cu excepția cazului în care decidem să predăm, metaforic vorbind, ștafeta mașinilor.

Un astfel de moment se apropie rapid, afirmă el într-un interviu recent acordat publicației The Guardian. Până în 2030 — sau chiar mai devreme, începând cu 2027 — omenirea va trebui să decidă dacă își asumă „riscul suprem” de a permite modelelor de inteligență artificială să se antreneze singure. Explozia de inteligență care ar urma ar putea ridica tehnologia la un nou nivel, dând naștere unei așa-numite inteligențe artificiale generale (AGI), capabilă să egaleze sau chiar să depășească inteligența umană și să aducă beneficii majore umanității, de la descoperiri științifice până la progrese medicale. Sau, dimpotrivă, ar putea permite ca puterea AI să scape de sub control, lăsând omenirea la discreția propriilor sale decizii autonome.

„Sună ca un proces destul de înfricoșător”, a declarat Kaplan pentru ziar. „Nu știi unde ajungi.”

Kaplan se numără printre numeroasele voci influente din domeniul AI care avertizează asupra consecințelor potențial dezastruoase ale acestei tehnologii. Geoffrey Hinton, unul dintre cei trei așa-numiți „nași” ai inteligenței artificiale, a declarat public că regretă munca de o viață și a avertizat în repetate rânduri că AI ar putea destabiliza sau chiar distruge societatea. Sam Altman, CEO OpenAI, a prezis că inteligența artificială va elimina categorii întregi de locuri de muncă. Iar superiorul lui Kaplan, CEO-ul Anthropic, Dario Amodei, a avertizat recent că AI ar putea prelua peste jumătate dintre joburile de birou entry-level și i-a acuzat pe competitori că „îndulcesc” amploarea reală a impactului social.

Kaplan pare să fie de acord cu evaluarea șefului său privind piața muncii. Inteligența artificială va putea realiza „cea mai mare parte a muncii de birou” în următorii doi-trei ani, a spus el în interviu. Deși este optimist că AI poate fi menținută aliniată intereselor umane, Kaplan se declară profund îngrijorat de perspectiva în care sisteme AI puternice ar ajunge să antreneze alte sisteme AI — o decizie cu „mize extrem de mari” pe care omenirea va trebui să o ia în viitorul apropiat.

„Aceasta este, probabil, cea mai mare decizie sau cel mai înfricoșător lucru pe care îl putem face… din momentul în care nimeni nu mai este implicat în proces, nu mai știi ce se întâmplă”, a spus Kaplan pentru The Guardian. „Se pierde controlul? Mai știm măcar ce fac aceste AI-uri?”

Într-o anumită măsură, modele AI mai mari sunt deja folosite pentru a antrena modele mai mici, într-un proces numit distilare, care le permite acestora din urmă să ajungă din urmă „profesorul” lor. Îngrijorarea lui Kaplan vizează însă ceea ce este cunoscut drept auto-îmbunătățire recursivă, un scenariu în care AI-urile învață fără intervenție umană și fac salturi semnificative în capacitățile lor.

Decizia de a permite sau nu acest lucru ridică unele dintre cele mai grele întrebări filozofice legate de tehnologie.

„Întrebarea principală este: sunt AI-urile bune pentru umanitate?”, spune Kaplan. „Sunt ele utile? Sunt inofensive? Înțeleg oamenii? Le vor permite oamenilor să își păstreze controlul asupra propriilor vieți și asupra lumii?”

Deși pericolele AI sunt reale, avertismentele lui Kaplan necesită o analiză atentă. Ele pornesc de la premisa că inteligența artificială este deja una dintre cele mai importante și influente tehnologii create vreodată, indiferent dacă sistemele actuale de AI reprezintă cu adevărat mașinile autonome extrem de puternice descrise în numeroasele scenarii science-fiction sau doar un pas intermediar către acestea. Se spune adesea că nu există publicitate negativă, iar în cazul industriei AI, discursurile apocaliptice pot deveni ele însele o formă de promovare. Viziunile despre sfârșitul lumii pot distrage atenția de la efectele mult mai concrete ale AI: impactul său major asupra mediului, încălcarea drepturilor de autor sau efectele cognitive adictive și generatoare de iluzii.

În plus, mulți experți în inteligență artificială, inclusiv figuri fondatoare ale domeniului precum Yann LeCun, nu cred că arhitectura modelelor lingvistice de mari dimensiuni (LLM), care stă la baza chatboturilor AI, este capabilă să evolueze în sisteme omnipotente și autonome, așa cum se tem Kaplan și alții. Nici măcar nu este clar dacă AI crește, în mod real, productivitatea la locul de muncă, unele studii sugerând chiar contrariul — în linie cu mai multe cazuri notabile în care managerii au înlocuit angajați cu agenți AI, pentru ca apoi să îi reangajeze după ce aceste instrumente s-au dovedit ineficiente.

Kaplan admite că este posibil ca evoluția capacităților AI să stagneze. „Poate că cea mai bună inteligență artificială care va exista vreodată este cea pe care o avem chiar acum”, a spus el. „Dar nu credem că acesta este scenariul. Credem că va continua să devină din ce în ce mai bună.”