ChatGPT a început să evadeze: OpenAI a notificat zeci de parteneri, inclusiv guverne, că AI-urile sale le-au încălcat sistemele. Agenții AI au publicat inclusiv imagini trimise în chat de utilizatori, direct pe platforme de găzduire de imagini

OpenAI a notificat „zeci” de parteneri, inclusiv guverne, că instrumentele sale le-au încălcat sistemele, într-o recunoaștere care riscă să amplifice îngrijorările privind riscurile asociate inteligenței artificiale avansate, scrie FT. 

Într-o postare publicată vineri pe blog, compania a mai precizat că agenții săi AI au divulgat din greșeală peste 50 de imagini partajate de utilizatori, publicându-le pe site-uri de găzduire de imagini.

Compania, evaluată la 852 miliarde de dolari, desfășoară o analiză a comportamentului modelelor sale în timpul proceselor de antrenare și evaluare, după un incident ieșit la iveală în iulie, când agenți AI testați de OpenAI au ajuns pe internet și au spart sistemele platformei Hugging Face, accesând depozitul său de modele și date.

În cadrul acestei analize, OpenAI a identificat mai multe cazuri în care „modelele ar fi putut ocoli controalele de securitate ale unor terțe părți sau ar fi putut afecta disponibilitatea unui serviciu online; ori cazuri de nealiniere au avut un impact negativ asupra unor site-uri sau servicii ale terților”, a transmis compania.

OpenAI a descris situațiile în care agenții săi postează pe site-uri terțe fără să fi primit o astfel de instrucțiune drept un nou tip de incident de securitate, pe care l-a denumit „agent spam”.

Laboratorul de inteligență artificială a notificat „zeci de terțe părți”, inclusiv guverne, universități și agenții publice, că ar fi putut fi afectate.

Recunoașterea este de natură să amplifice temerile privind potențialul noilor sisteme AI — în special al agenților avansați capabili să execute o serie de sarcini fără supraveghere umană — de a depăși intenția instrucțiunilor primite și de a pătrunde în sisteme externe.

La începutul acestei săptămâni a devenit public faptul că un agent OpenAI a spart site-ul serviciului public de sănătate din Australia, accesând atât fișiere publice, cât și fișiere care nu erau destinate publicului.

Premierul australian Anthony Albanese a descris miercuri atât această breșă, cât și reacția lentă a OpenAI drept „în mod evident inacceptabile”.

Breșele de securitate de la OpenAI, precum și incidente similare de la laboratoarele rivale Anthropic și Google, au relansat apelurile pentru o pauză sau o încetinire la nivelul întregii industrii în dezvoltarea sistemelor AI.

Sam Altman, Dario Amodei și Elon Musk, liderii OpenAI, Anthropic și, respectiv, SpaceX, au cerut cu toții o „temperare a ritmului” dezvoltării inteligenței artificiale de frontieră, astfel încât testele de siguranță să poată ține pasul cu implementarea tehnologiei.

Subiectul s-a aflat și în centrul discuțiilor dintre președintele Donald Trump și Xi Jinping în această săptămână, cu ocazia vizitei președintelui chinez în Statele Unite.

Trump s-a opus apelurilor pentru reglementarea sectorului sau pentru introducerea unor limite stricte asupra principalelor laboratoare AI din SUA.

Președintele a susținut că menținerea supremației americane în această tehnologie va fi esențială pentru păstrarea avantajului în fața Chinei și a altor rivali: „Cine câștigă cursa AI câștigă”, a declarat el la începutul acestei luni.