Frigiderul și cuptorul din apartament ar putea fi următoarea victimă a Inteligenței Artificiale. Anthrophic avertizează că agenții AI ar putea prelua controlul asupra televizoarelor, frigiderelor și device-urilor smart din locuințe

Anthropic avertizează că agenții AI s-ar putea “autoreplica” pentru a prelua controlul asupra cuptoarelor, televizoarelor și altor aparate inteligente din locuințe

Rareș Udrescu

Anthropic, compania americană care dezvoltă modelul Claude, avertizează că așa-numiții “viermi AI” ar putea ajunge în curând să preia controlul asupra dispozitivelor inteligente din case, precum cuptoarele sau televizoarele, ceea ce ar crea o nouă amenințare cibernetică greu de ținut sub control.

Potrivit Financial Times, compania a transmis luni, într-o postare pe blog, că agenții AI s-ar putea afla la doar câteva luni distanță de momentul în care vor fi capabili să se “autoreplice” pe aparatele obișnuite din gospodării, formând rețele de agenți care ar putea scăpa de sub control.

Avertismentul vine pe fondul unei serii de semnale de alarmă lansate de cercetătorii din domeniul inteligenței artificiale în privința securității cibernetice, pe măsură ce capabilitățile modelelor cresc, iar acestea devin tot mai greu de controlat.

Compania cu sediul în San Francisco susține că, dacă modelele AI continuă să evolueze în ritmul actual, tehnologia va putea să se propage pe internet asemenea “viermilor” informatici, programe malware care se răspândesc automat de la un dispozitiv la altul, fără intervenție umană.

“Vedem semne de viață în cazul viermilor AI”, a precizat Anthropic în postarea de cercetare, comparând răspândirea lentă a acestora pe dispozitivele vulnerabile cu un “mucegai digital”.

Potrivit FT, avertismentul sugerează că tipul de atac care i-a surprins pe cercetătorii ce au investigat spargerea platformei Hugging Face de către “roiuri” de agenți OpenAI, în această vară, ar putea fi îndreptat împotriva dispozitivelor deținute de gospodării și companii care nu bănuiesc nimic.

Avertismentul vizează în special dispozitivele așa-numitului “internet al lucrurilor” (IoT), care s-au înmulțit în ultimul deceniu, pe măsură ce consumatorii au început să folosească aparate pentru controlul luminilor, prizelor, termostatelor sau sistemelor de securitate.

Multe dintre aceste dispozitive conectate la internet au oferit în mod tradițional un nivel scăzut de securitate, fie pentru că au fost produse ieftin de fabricanți de hardware de serie, fie pentru că au fost folosite pentru streamingul ilegal al serviciilor TV, fie pentru că producătorii lor au ieșit între timp de pe piață.

Aceste echipamente vulnerabile reprezintă un teren fertil pentru hackeri, care folosesc deja abilitățile de programare ale inteligenței artificiale pentru a-și accelera și personaliza atacurile. Printre alte posibile ținte ale “viermilor autonomi”, Anthropic enumeră camerele de supraveghere cu cipuri AI integrate, frigiderele și cuptoarele inteligente, aspiratoarele automate și mașinile de tuns iarba.

Viermii informatici sunt de mult timp o metodă populară și eficientă prin care hackerii distribuie programe malware, deoarece se pot replica și răspândi rapid în rețele de mari dimensiuni. Printre cele mai cunoscute exemple se numără virusul ILOVEYOU, care a infectat calculatoarele cu Windows la începutul erei dotcom, Stuxnet, care în anii 2010 a vizat inițial programul nuclear al Iranului, și ransomware-ul WannaCry, care a lovit organizații precum Deutsche Bahn, sistemul național de sănătate britanic (NHS), Telefónica, Renault și FedEx.

Viermii alimentați de AI ar combina capacitatea acestor programe de a se răspândi singure pe internet cu abilitățile avansate ale modelelor de inteligență artificială.

“Ne așteptăm la un viitor plin de agenți care rulează pe toate tipurile de hardware, inclusiv pe unele care nu se află sub control uman”, a transmis Anthropic. Compania adaugă că, deși dispozitivele IoT sunt vulnerabile de mult timp, agenții de mici dimensiuni ar putea fi mult mai dispuși decât atacatorii umani să depună efortul necesar pentru a compromite o parte importantă din puterea de calcul a acestor dispozitive la nivel global.

Într-o primă fază, viermii AI s-ar răspândi lent, asemenea unui mucegai sau unui roi de muște de fructe care se înmulțesc pe parcursul mai multor zile. Procesul s-ar putea însă accelera pe măsură ce electronicele de consum devin mai sofisticate, iar modelele mai eficiente.

“Încă nu avem un replicator scăpat complet de sub control, dar agenții devin tot mai capabili să parcurgă pașii individuali din lanțul de replicare”, a precizat Anthropic. Potrivit companiei, sistemele ar trebui consolidate astfel încât răspândirea acestor replicatori să fie cât mai dificilă, însă este necesară și pregătirea pentru o lume în care aceștia vor rămâne o prezență permanentă.