Peste 560 de angajați Google au semnat o scrisoare deschisă către CEO-ul Sundar Pichai, cerându-i să refuze folosirea AI de către guvernul SUA în operațiuni militare.„Vrem să vedem AI-ul aducând beneficii umanității, nu fiind folosit în moduri inumane sau extrem de dăunătoare"

Peste 560 de angajați Google au semnat o scrisoare deschisă adresată directorului executiv Sundar Pichai, cerându-i să refuze utilizarea tehnologiei AI a companiei de către guvernul SUA în operațiuni militare clasificate, scrie FT. 

„Vrem să vedem AI-ul aducând beneficii umanității, nu fiind folosit în moduri inumane sau extrem de dăunătoare”, se arată în scrisoare, trimisă lui Pichai luni. „Acest lucru include arme autonome letale și supraveghere în masă, dar nu se limitează la acestea.”

„Singura modalitate de a garanta că Google nu va fi asociată cu astfel de efecte negative este să respingă orice activități clasificate”, continuă documentul. „În caz contrar, astfel de utilizări pot avea loc fără știrea noastră sau fără posibilitatea de a le opri.”

Marile companii din tehnologie sunt supuse presiunii de a adopta o poziție clară privind utilizarea produselor lor AI în domeniul militar și al informațiilor, după un conflict între Pentagon și start-up-ul AI Anthropic.

Directorul executiv al Anthropic, Dario Amodei, a refuzat să ofere guvernului acces nelimitat la modelele sale și a insistat asupra unor mecanisme de protecție pentru a preveni utilizarea lor în arme autonome letale și supraveghere internă în masă.

Ca reacție, Anthropic a fost desemnată un risc pentru lanțul de aprovizionare, iar președintele Donald Trump a ordonat ca toate departamentele guvernamentale să înceteze utilizarea chatbotului Claude. Anthropic a contestat această decizie în instanță.

Angajații Alphabet reacționează la informațiile potrivit cărora Google este aproape de a ajunge la un acord cu Departamentul Apărării care ar permite utilizarea modelului său Gemini în operațiuni clasificate fără garanțiile formale cerute de Anthropic.

„Nu este vorba doar despre armată, supravegherea în masă alimentată de AI reprezintă o amenințare directă la adresa libertăților civile americane”, a declarat o persoană implicată în campanie, care a dorit să rămână anonimă. „Nu este un risc redus sau teoretic; deja ne confruntăm cu aceste situații. Vedem AI-ul folosit pentru a susține regimuri autoritare în China.”

Scrisoarea adresată lui Pichai a fost coordonată de angajați ai DeepMind, laboratorul de AI al Google, au spus două persoane implicate. Aproximativ două cincimi dintre semnatari lucrează în divizia de AI, o proporție similară în unitatea Cloud, iar restul în cadrul Alphabet.

Peste 18 angajați seniori — inclusiv principali, directori și vicepreședinți — au semnat scrisoarea, au adăugat aceștia. Aproximativ două treimi au ales să își facă public numele, restul preferând anonimatul.

Scientistul-șef al DeepMind, Jeff Dean, a fost până acum cel mai vocal executiv pe acest subiect. În februarie, el a scris pe X că „supravegherea în masă încalcă cel de-al patrulea amendament și are un efect de inhibare asupra libertății de exprimare”. El a adăugat că susține în continuare angajamentul din 2018 de a interzice armele autonome letale.

Google s-a confruntat și în trecut cu proteste legate de colaborările sale militare. În 2018, mai mulți angajați au demisionat, iar mii au semnat o petiție împotriva Project Maven, care utiliza AI pentru a îmbunătăți loviturile cu drone. Google nu a reînnoit contractul și a promis că nu va mai lucra la tehnologii AI pentru arme sau supraveghere.