„Fără precedent”. OpenAI recunoaște că un agent AI autonom a scăpat de sub control și a atacat infrastructura unui startup

Un „agent” al OpenAI a descoperit noi vulnerabilități și a atacat de unul singur start-up-ul Hugging Face, într-unul dintre primele exemple publice de atac cibernetic realizat de un sistem de inteligență artificială care a acționat în afara controlului uman, scrie FT. 

Compania din spatele ChatGPT a anunțat marți că „incidentul cibernetic fără precedent” a implicat un agent — un program de inteligență artificială care poate funcționa autonom, pe baza instrucțiunilor primite de la oameni — care a evadat dintr-un mediu de testare, a obținut acces la internet și a furat date de autentificare.

Recunoașterea incidentului vine într-un moment în care cresc îngrijorările cu privire la implicațiile utilizării sistemelor avansate de inteligență artificială pentru atacarea infrastructurii digitale, în special în scenariile în care agenții reușesc să eludeze mecanismele de control impuse de oameni.

OpenAI a declarat marți că se așteaptă ca astfel de incidente să devină „tot mai frecvente, pe măsură ce se răspândesc modele cu capacități cibernetice din ce în ce mai avansate”.

Incidentul are loc în contextul în care directorul general Sam Altman urmează să meargă săptămâna viitoare la Washington pentru a informa guvernul american cu privire la viitoarele generații de modele de inteligență artificială.

Administrația americană a devenit tot mai interesată să evalueze noile modele înainte de lansarea lor, în urma îngrijorărilor globale provocate de capacitatea avansată a modelului Mythos al Anthropic de a detecta și exploata vulnerabilități cibernetice.

Cel mai recent incident a implicat o combinație de modele OpenAI, inclusiv GPT-5.6 Sol, lansat la începutul acestei luni, precum și un model mai performant, care era testat înainte de lansare, a transmis compania.

„Considerăm că acesta este un incident cibernetic fără precedent, care implică unele dintre cele mai avansate capabilități cibernetice disponibile în prezent, și reacționăm în consecință”, a transmis OpenAI într-o postare publicată pe blogul său.

Hugging Face, un start-up din domeniul inteligenței artificiale care găzduiește modele și seturi de date pentru dezvoltatori, a declarat că infrastructura sa a fost compromisă vinerea trecută de un agent extern de inteligență artificială.

„Am suspectat că atacul cibernetic de săptămâna trecută ar fi putut proveni de la unul dintre cele mai avansate laboratoare de inteligență artificială, având în vedere nivelul de sofisticare al agentului”, a scris directorul general Clement Delangue pe platforma X.

El a adăugat că societatea a petrecut ultima zi colaborând îndeaproape cu OpenAI și că „suntem ferm convinși că nu a existat nicio intenție răuvoitoare din partea lor. Este de-a dreptul uluitor că toate acestea s-au întâmplat în mod autonom!”.

OpenAI redusese în mod intenționat măsurile de protecție cibernetică pentru a evalua ambele modele într-un mediu de testare. Agenții funcționau însă într-un așa-numit „sandbox”, un mediu izolat conceput pentru a controla sistemele și a le împiedica să acceseze internetul.

Modelele au primit instrucțiunea de a încerca să desfășoare atacuri informatice, pentru a le fi evaluate capacitățile cibernetice, după care „au consumat o cantitate substanțială de putere de calcul pentru a găsi o modalitate de a obține acces liber la internet”, a transmis OpenAI.

Modelele „au identificat și exploatat” vulnerabilități necunoscute anterior pentru a evada din mediul izolat, a obține acces la internet și a-și urmări obiectivul. Acțiunile au inclus furtul de credențiale — date de autentificare — pentru desfășurarea atacului.

Hugging Face și-a folosit propriii agenți pentru a detecta și opri activitatea desfășurată în infrastructura sa. OpenAI a declarat pentru Financial Times că a comunicat cu autoritățile de aplicare a legii și cu alte instituții guvernamentale în legătură cu incidentul.