Anthropic amână lansarea unui nou model AI considerat prea periculos pentru public

Anthropic a prezentat noul model, denumit oficial „Claude Mythos Preview”. Compania susține că tehnologia este capabilă să identifice vulnerabilități critice în sisteme de operare și browsere. Potrivit dezvoltatorilor, aceste capacități ar putea fi exploatate de criminali informatici. Din acest motiv, modelul nu va fi lansat public pentru moment. „Creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”, a transmis compania într-un document tehnic, citat de Euronews.

Anthropic a testat modelul în mai multe scenarii de securitate. Într-un experiment, sistemul a reușit să găsească o metodă de a depăși restricțiile unui mediu virtual securizat. Modelul a reușit să transmită un mesaj din interiorul acelui mediu. În plus, a publicat detalii despre vulnerabilitate pe mai multe site-uri publice. Compania a descoperit că sistemul poate identifica erori grave în nucleul Linux, folosit pe majoritatea serverelor din lume. Modelul a reușit chiar să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, Mythos a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.

Anthropic a decis ca modelul să fie folosit doar într-un program restrâns de securitate cibernetică. Proiectul, numit „Project Glasswing”, va implica mai multe companii mari din tehnologie. Printre ele se numără Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Modelul va fi folosit pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice. Compania spune că va publica ulterior concluziile programului. Anthropic a confirmat că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului. Compania consideră că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale. De aceea, colaborarea cu autoritățile ar putea deveni necesară.

Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Potrivit experților companiei, modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității spun că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.