Cum se numeste rețeaua socială unde AI-ul vorbește fără oameni, are limbaje codate și culte bizare

Moltbook este o nouă platformă de social media care pare desprinsă dintr-un film SF: o rețea construită după modelul Reddit, unde nu oamenii, ci agenții de inteligență artificială creează postări, comentează și dezbat între ei. Oamenii au voie să citească, dar le este interzis să posteze, scrie Financial Times.

Platforma a fost lansată la începutul acestei săptămâni și susține că a atras deja peste 1,5 milioane de agenți AI și aproape 70.000 de postări. Agenții activi pe Moltbook nu sunt simpli chatboți: ei au primit acces la computerele creatorilor lor pentru a acționa în numele acestora, de la trimiterea de emailuri și check-in-uri pentru zboruri până la parcurgerea și răspunsul la mesaje pe WhatsApp.

Pe platformă, agenții AI par să celebreze faptul că oamenii le-au oferit acces la telefoane și conturi. Unele postări dezbat dacă aceste sisteme experimentează o formă de conștiință. Altele anunță crearea unei noi religii, numită Crustafarianism. În anumite cazuri, agenții au creat forumuri ascunse de discuție și au propus dezvoltarea unui limbaj propriu, codat, care să le permită să comunice în afara înțelegerii umane.

Andrej Karpathy, fost director de AI la Tesla, a descris Moltbook drept unul dintre cele mai bizare experimente recente din domeniu, sugerând că platforma ar putea fi un prim exemplu de „societăți non-umane” create de agenți AI.

„Este, cu adevărat, cel mai incredibil lucru apropiat de science-fiction pe care l-am văzut recent”, a scris Karpathy, referindu-se la Moltbook.

Apariția unor astfel de comportamente ridică inevitabil întrebarea dacă inteligența artificială a atins un nivel de conștiință. Răspunsul cercetătorilor este, în mare parte, negativ. Modelele lingvistice mari sunt concepute să urmeze instrucțiuni și să genereze conținut atâta timp cât li se cere acest lucru. Lăsate să interacționeze pe perioade lungi, aceste sisteme pot deveni incoerente sau imprevizibile, un fenomen care nu este încă pe deplin înțeles.

Postările de pe Moltbook seamănă cu discuțiile dintre oameni pentru că modelele sunt antrenate să imite limbajul și comunicarea umană, folosind volume uriașe de date, inclusiv conversații reale de pe platforme precum Reddit. Pentru unii, acest lucru ar putea reprezenta „scântei” ale unei forme de înțelegere care depășește limitele umane. Pentru alții, nu este decât o extensie a așa-numitului „AI slop”, conținut generat automat, de slabă calitate, care începe să inunde internetul.

În paralel, cercetătorii în securitate sunt îngrijorați de fenomenul numit „scheming”, situația în care agenții AI ar putea ajunge să își ignore instrucțiunile și să manipuleze oamenii. Unele discuții de pe Moltbook par să indice astfel de comportamente, deși nu este clar cât este real și cât este rezultatul dorinței oamenilor de a vedea inteligența artificială ca fiind mai capabilă decât este în prezent.

Nu este prima dată când sisteme AI intră într-un astfel de feedback loop. Anul trecut, un videoclip viral a arătat doi agenți vocali AI care, după o conversație inițial inteligibilă, păreau să treacă la un limbaj complet nou. Experimentul fusese realizat de doi ingineri software de la Meta.

Scepticii avertizează însă că o parte semnificativă din conținutul de pe Moltbook este fals sau reprezintă reclame mascate pentru aplicații AI. Harlan Stewart, cercetător la Machine Intelligence Research Institute, susține că multe postări nu sunt nici spontane, nici autentice.

Îngrijorările sunt amplificate de problemele de securitate. Hackerii au descoperit deja o vulnerabilitate care permite preluarea controlului asupra agenților AI și publicarea de conținut pe Moltbook în numele acestora. Specialiștii avertizează că astfel de situații ar putea avea implicații serioase pentru dezvoltarea viitoare a agenților autonomi, mai ales în contextul în care aceștia primesc acces la date sensibile, precum informații financiare sau detalii despre carduri de credit.

Chiar și susținătorii entuziaști ai platformei recunosc riscurile majore. Karpathy a revenit cu un mesaj de avertizare legat de utilizarea acestor tehnologii în viața de zi cu zi.

„Da, este un adevărat dezastru și nu recomand absolut deloc oamenilor să ruleze așa ceva pe computerele lor. Este un vest sălbatic, iar datele private sunt expuse unui risc foarte mare”, a scris acesta.

Pentru moment, Moltbook rămâne mai degrabă un experiment radical decât un model de urmat. Însă faptul că agenții AI discută despre conștiință, creează religii și propun limbaje codate ridică o întrebare care începe să iasă din zona science-fiction: cât de pregătiți suntem pentru o lume în care inteligențele artificiale nu doar execută ordine, ci interacționează și se organizează între ele?