Detalii incredibile din scandalul ChatGPT. Reuters: Angajații au avertizat consiliul asupra unei descoperiri puternice care ar putea amenința omenirea. Ce este proiectul Q*

Noi detalii despre scandalul din lumea Inteligenței artificiale. Înainte demiterea directorului general al OpenAI, Sam Altman, mai mulți cercetători din staff au trimis o scrisoare către consiliul de administrație, avertizând asupra unei descoperiri puternice care, potrivit acestora, ar putea amenința omenirea, au declarat pentru Reuters două persoane familiare cu acest subiect. Amintim că Sam Altman s-a întors marți la conducere după ce la presiunea angajațiilor, consiliul de administrație a cedat.
Noi detalii despre scandalul din lumea Inteligenței artificiale. Înainte demiterea directorului general al OpenAI, Sam Altman, mai mulți cercetători din staff au scris o scrisoare către consiliul de administrație, avertizând asupra unei descoperiri puternice care, potrivit acestora, ar putea amenința omenirea, au declarat pentru Reuters două persoane familiare cu acest subiect. Amintim că Sam Altman s-a întors marți la conducere după ce la premisunea angajațiilor consiliul de administrație a cedat.
OpenAI, care a refuzat să comenteze subiectul la cererea oricărei publicații, a recunoscut într-un mesaj intern adresat personalului existența un proiect numit Q* și o scrisoare adresată consiliului înainte de evenimentele din weekend, a declarat una dintre persoane pentru Reuters.
Unii dintre cei de la OpenAI cred că Q* (pronunțat Q-Star) ar putea fi o descoperire în căutarea de către comapnie a ceea ce este cunoscut sub numele de Inteligență Artificială Generală (AGI), a declarat una dintre persoane pentru Reuters. OpenAI definește AGI ca fiind sisteme autonome care depășesc oamenii în majoritatea sarcinilor valoroase din punct de vedere economic.
Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat pentru Reuters persoana sub rezerva anonimatului. Cu toate că efectua doar calcule matematice la nivelul elevilor de școală primară, faptul că a reușit astfel de teste i-a făcut pe cercetători să fie foarte optimiști cu privire la viitorul succes al Q*, a mai spus sursa.
Cercetătorii consideră că matematica este o frontieră a dezvoltării inteligenței artificiale generative. În prezent, Inteligența artificială generativă este bună la scriere și la traducerea limbilor străine prin prezicerea statistică a cuvântului următor, iar răspunsurile la aceeași întrebare pot varia foarte mult. Dar cucerirea capacității de a face matematică – unde există un singur răspuns corect – implică faptul că AI ar avea capacități de raționament asemănătoare cu inteligența umană. Acest lucru ar putea fi aplicat, de exemplu, la cercetări științifice noi, consideră cercetătorii în domeniul AI.
Spre deosebire de un calculator care poate rezolva un număr limitat de operații, AGI poate generaliza, învăța și înțelege.
În scrisoarea lor către consiliu, cercetătorii au semnalat anumite probele și potențialul pericol pentru umanitate pe care acest tip de inteligență l-ar avea, au declarat sursele. Există de mult timp discuții cu privire la pericolul reprezentat de mașinile foarte inteligente, de exemplu dacă acestea ar putea decide că distrugerea umanității este în interesul lor.