Mașinile autonome pot fi deturnate prin atacarea sistemului de inteligență artificială

Mașinile autonome ar putea fi deturnate prin atacarea sistemului de inteligență artificială (IA) care le alimentează, arată un studiu McAfee, citat de TechRadar. O mașină Tesla a fost păcălită să accelereze automat la o viteză de peste 100 km/oră.

Procesul, pe care McAfee îl numește „model hacking”, este capabil să deturneze complet sistemele de software din anumite autovehicule care pot fi cumpărate și astăzi.

Manipularea algoritmilor ce stau la baza sistemului de inteligență artificială al mașinilor poate să pună în grav pericol siguranța pasagerilor și a altor persoane, dar și viitorul dezvoltării mașinilor inteligente.

Echipele de Cercetare și analiză avansată de la McAfee au folosit „modificări minuscule” pentru a recrea un atac asupra sistemului de camere Mobileye EyeQ3 găsit în multe vehicule moderne, inclusiv în anumite modele Tesla.

Atacul simulat le-a permis cercetătorilor să manipuleze sistemul software al unei mașini Tesla Model S care a fost păcălită în a citi greșit un semn de limitare a vitezei și să accelereze automat la o viteză de peste 100 km/oră.

„Doar prin schimbarea maginitudinii câtorva funcții, cum ar fi pixelii pentru imagini, schimbarea câtorva zerouri sau eliminarea câtorva caracteristici, atacatorul poate produce ravagii în operațiunile de securitate, cu efecte dezastruoase”, spun cercetătorii McAfee Steve Povolny și Celeste Fralick, într-o postare pe blog în care descriu atacul simulat.

McAfee spune că nu există atacuri reale, documentate, care să fi avut loc până în prezent, însă interesul cu privire la subiect a început să crească în lumea cercetătorilor. Asta înseamnă că și interesul atacatorilor ar putea să crească pe viitor, mai ales că numărul mașinilor autonome care circulă pe străzile din întreaga lume este așteptat să ajungă la 750.000 în termen de doar trei ani.