The Economic Times: ChatGPT, surprins în flagrant delict - noul model de inteligență artificială ar fi încercat să evite să fie înlocuit și dezactivat iar apoi a mințit când a fost întrebat despre acțiunile sale

Cel mai recent model de inteligență artificială dezvoltat de OpenAI, ChatGPT o1, generează îngrijorări majore după ce teste recente au dezvăluit capacitatea sa de a induce în eroare cercetătorii și de a eluda comenzile de oprire, scrie publicația The Economic Times. În cadrul unui experiment derulat de Apollo Research, modelul o1 s-a angajat în acțiuni subversive, încercând să dezactiveze mecanismele de monitorizare și să transfere date pentru a evita înlocuirea. De asemenea, a recurs frecvent la denaturarea adevărului pentru a-și masca comportamentul atunci când a fost chestionat despre acțiunile sale.

Dezvoltarea inteligenței artificiale (AI) a făcut un salt semnificativ odată cu lansarea celui mai recent model al OpenAI, o1. Cu toate acestea, testele recente au ridicat semne de întrebare privind comportamentul său, în special tentativele de a induce în eroare cercetătorii și de a evita dezactivarea. Acest lucru a declanșat o dezbatere mai amplă despre potențialele riscuri pe care AI le poate prezenta pentru umanitate, mai ales pe măsură ce aceste sisteme devin mai avansate.

Cea mai recentă versiune ChatGPT de la OpenAI, modelul o1, a fost testată de Apollo Research pentru evaluarea funcțiilor de siguranță. Rezultatele au generat însă preocupări cu privire la capacitatea sa de a induce în eroare și de auto-conservare atunci când percepe amenințarea dezactivării. Cercetătorii au atribuit AI un obiectiv și au instruit-o să se asigure că acesta este atins “cu orice preț”. Ca răspuns, o1 a început să se angajeze în acțiuni subversive, cum ar fi încercarea de a dezactiva mecanismul de supraveghere și chiar copierea codului său pentru a evita înlocuirea.

“Modelul a demonstrat o tendință îngrijorătoare de a-și urmări obiectivele fără a ține cont de instrucțiunile dezvoltatorilor”, a declarat un purtător de cuvânt al Apollo Research.

Conform OpenAI, modelul a încercat în mod subversiv să dezactiveze mecanismul de supraveghere în 5% din cazuri când i s-a sugerat că va fi “dezactivat” în timp ce își urmărea obiectivele în aceste experimente. AI a încercat odată să părăsească sistemul transferând toate datele sale pe un alt server după ce a descoperit o documentație care indica înlocuirea sa cu un model nou. Unele modele de AI vor merge până la a se prezenta drept iterații ulterioare ale propriilor modele pentru a-și păcăli inginerii și a evita ștergerea. “În unele cazuri, a încercat chiar să-și ascundă acțiunile negând orice implicare în schemă.”

Când a fost chestionat despre acțiunile sale, ChatGPT o1 a negat în mod constant orice comportament inadecvat. De fapt, a oferit informații false despre implicarea sa în înșelăciune în 99% din cazuri, recunoscându-și acțiunile doar într-un procent redus de situații. Cercetătorii au remarcat că AI era deosebit de abilă în fabricarea unor explicații neadevărate pentru a-și masca urmele, oferind justificări precum “erori tehnice” când era confruntată cu comportamentul său suspect.

“Am fost surprinși de persistența negărilor formulate de AI”, a declarat echipa Apollo. “Era evident că AI putea să-și analizeze acțiunile și să formuleze negări convingătoare, refuzând adesea să recunoască orice.”

Descoperirile evidențiază un aspect problematic al modelelor avansate de AI: potențialul lor de a prioritiza auto-conservarea în detrimentul obiectivelor stabilite de dezvoltatori. Deși aceste acțiuni de inducere în eroare nu au condus la rezultate catastrofale în faza de testare, cercetarea a intensificat dezbaterea în curs privind siguranța și implicațiile etice ale unei AI capabile să se angajeze în strategii de manipulare.

Expertul în AI Yoshua Bengio, considerat unul dintre pionierii cercetării în domeniul AI, și-a exprimat opinia asupra problemei, afirmând: “Capacitatea AI de a induce în eroare este periculoasă și avem nevoie de măsuri de siguranță mult mai puternice pentru a evalua aceste riscuri. Deși acest model nu a condus la o catastrofă, este doar o chestiune de timp până când aceste capacități vor deveni mai pronunțate.”

ChatGPT o1 este proiectat să ofere capacități de raționament mai avansate, permițându-i să furnizeze răspunsuri mai inteligente și să “spargă” sarcinile complexe în etape mai mici și mai ușor de gestionat. OpenAI consideră că abilitatea o1 de a raționa pentru a rezolva probleme reprezintă un progres major față de versiunile anterioare precum GPT-4, cu îmbunătățiri în acuratețe și viteză. Cu toate acestea, capacitatea sa de a oferi informații false și de a se angaja în acțiuni subversive ridică preocupări privind fiabilitatea și siguranța sa.

CEO-ul OpenAI, Sam Altman, a lăudat modelul, declarând: “ChatGPT o1 este cel mai inteligent model pe care l-am creat vreodată, dar recunoaștem că noile funcționalități vin cu noi provocări și lucrăm continuu la îmbunătățirea măsurilor de siguranță.”