Experimentul AI al Google Earth a durat 24 de ore. Criza de încredere pe care a creat-o poate dura mult mai mult

Google a retras după doar 24 de ore o funcție experimentală de inteligență artificială din Google Earth, după ce utilizatorii au folosit-o pentru a genera imagini false în locații reale, inclusiv în zone de conflict. Decizia vine într-un moment în care imaginile din satelit au devenit o sursă importantă de informații pentru jurnaliști, cercetători și organizații care încearcă să verifice ceea ce se întâmplă pe teren. Problema nu este însă doar că AI-ul poate produce imagini false, ci că astfel de imagini pot ajunge să pună sub semnul întrebării chiar și dovezile reale.

O funcție de inteligență artificială generativă introdusă pentru scurt timp în Google Earth, care le permitea utilizatorilor să creeze imagini satelitare false, demonstrează efectele de durată ale unor instrumente AI neverificate în timpul unui conflict, arată publicația Rest of World.

De când Israelul și SUA au lansat atacuri asupra Iranului în februarie, aruncând regiunea Golfului într-un conflict, cele două țări au purtat și un război informațional folosind instrumente bazate pe inteligență artificială. Pentru a separa faptele de ficțiune, autoritățile, analiștii și jurnaliștii s-au orientat deopotrivă către imagini satelitare comerciale, inclusiv Google Earth, cea mai apropiată sursă de ceea ce poate fi considerat „realitatea din teren”, în condițiile accesului limitat la anumite locații.

Google Earth a fost de mult timp o infrastructură de încredere pentru activitatea de verificare, fiind platforma pe care investigatorii din surse deschise sunt instruiți oficial pentru activități legate de conflictele din Siria, Yemen și Sudan. Cu toate acestea, pe 30 iulie, Google a lansat o nouă funcție care integra generarea de imagini direct în Google Earth, produsul care, timp de două decenii, fusese sinonim cu adevărul oferit de imaginile satelitare.

Funcția le permitea utilizatorilor să mărească harta până la coordonate reale, să introducă un prompt și să obțină o scenă fotorealistă generată de AI, integrată în imaginile satelitare și aeriene reale. În doar câteva ore, utilizatorii au creat o centrală nucleară în Iran, un crater provocat de o bombă lângă un spital din Gaza și imagini cu o inundație care ajungea până la Capitoliul SUA.

Falsificarea imaginilor satelitare nu este un fenomen nou. Chiar watermarkurile Google au scos la iveală utilizarea modelului său AI Gemini pentru falsificarea unor dovezi satelitare, o practică recurentă în propaganda afiliată statului iranian. Însă funcția din Google Earth a făcut procesul mult mai ușor și mai accesibil, chiar în interiorul instrumentului cunoscut pentru informațiile sale de încredere.

În mai puțin de o zi, în urma reacțiilor vehemente ale experților în investigații și ale presei, Google a retras funcția, spunând că aceasta va reveni cu „măsuri de protecție mai puternice”. Aceasta este, într-un fel, imaginea de ansamblu a mediului nostru informațional: noi modalități de a fabrica realități apar peste noapte, urmează un val de critici, iar mecanismele de protecție sunt introduse abia după producerea răului. Între timp, guvernul SUA a cerut companiilor de imagini satelitare să restricționeze accesul jurnaliștilor la imaginile din regiune, invocând securitatea în timpul războiului. Astfel, oferta de informații reale s-a redus chiar în timp ce falsurile se răspândeau.

Imagini video fabricate

Acesta nu a fost primul produs de inteligență artificială generativă al unei companii mari de tehnologie care a fost retras sau suspendat în ultima perioadă. OpenAI a închis aplicația video Sora în martie, în urma unor presiuni publice susținute pentru retragerea acesteia. Decizia a venit însă la doar câteva luni după apariția unei avalanșe de conținut abuziv care viza femei și de recreări problematice ale unor figuri istorice. Modelul este similar: apare răul, compania retrage produsul și spune că va lucra la mecanismele de protecție pe care le-ar fi putut – sau ar fi trebuit – să le construiască înainte ca răul să se producă.

Retragerile sunt însă excepția. Regula seamănă mai degrabă cu ceea ce s-a întâmplat în cazul unor instrumente precum Veo 3, generatorul video lansat de Google în mai 2025, cu doar câteva săptămâni înainte ca Israelul și Iranul să intre în război. La câteva zile după primele atacuri, pe rețelele sociale circulau videoclipuri generate de AI care prezentau baraje de rachete asupra Tel Avivului, cu watermarkul Veo încă vizibil.

Ulterior, utilizatorii au devenit suficient de familiarizați cu tehnologia pentru a decupa watermarkul vizibil.

Watermarkurile se aplică însă doar produselor care le folosesc. Atunci când pe rețelele sociale a apărut, la doar câteva minute după atac, un videoclip fals care pretindea că prezintă o explozie la închisoarea Evin din Iran și care a fost distribuit inclusiv de organizații precum Sky News și BBC, nu exista niciun watermark care să permită verificarea. Citizen Lab a stabilit ulterior că videoclipul făcea parte dintr-o operațiune de influență susținută de AI, despre care se crede că ar fi fost derulată de guvernul israelian.

Însă detectarea și atribuirea funcționează după cronometre diferite, iar ambele rămân în urma minciunii. Experții criminaliști au stabilit în câteva zile că videoclipul de la Evin era generat de AI, însă, într-un mediu în care sunt produse și distribuite milioane de materiale, astfel de eforturi nu sunt suficiente. Faptele ajung la public mult timp după ce îndoiala și-a făcut deja efectul.

„Dividendele mincinosului”

Reglementarea nu a ținut pasul cu dezvoltarea rapidă a modelelor AI, iar noile legi nu acoperă suficient de multe probleme create deja de AI. Unele dintre obligațiile de transparență prevăzute de AI Act al Uniunii Europene, adoptat în 2024, au intrat în vigoare pe 2 august 2026. În ciuda perioadei lungi de implementare, aplicarea regulilor este fragilă, iar regulile precise rămân mai degrabă un cod voluntar decât o legislație aplicabilă efectiv.

Legea Californiei privind transparența AI, adoptată tot în 2024, a intrat în vigoare în august pentru companiile care dezvoltă instrumente de inteligență artificială generativă, însă nu va ajunge la nivelul platformelor cel puțin până în 2027. Iar instrumentele de detectare impuse de aceste legi nu sunt încă pregătite: atunci când Rest of World le-a testat în cazul a 13 furnizori de AI, șapte nu aveau niciun instrument public de detectare, iar dintre cei care aveau, toate cu excepția unuia puteau fi induse în eroare.

Acest mediu a permis ca teoria „dividendelor mincinosului” să devină realitatea conflictelor moderne. Atunci când cercetătorii în drept Bobby Chesney și Danielle Citron au introdus termenul în 2019, acesta reprezenta un avertisment: simpla existență a unor falsuri convingătoare le-ar permite actorilor rău intenționați să respingă dovezile autentice drept fabricate. Astăzi, acest concept descrie pur și simplu modul în care funcționează conflictele contemporane. Falsul nu mai trebuie să reziste unei examinări atente; trebuie doar să existe suficient de mult timp pentru ca adevărul să ajungă la public deja compromis.

Episodul Google Earth a demonstrat în 24 de ore ceea ce ultimii trei ani de conținut generat de AI care a distorsionat conflicte și crize au arătat mai lent. Mecanismele de protecție pentru aceste instrumente trebuie testate acolo unde miza este cea mai mare – în războaie, atrocități și crize – înainte de lansare, nu adăugate ulterior, după un val de indignare. Unele funcții vor pica pur și simplu acest test: generarea de imagini nu are un loc legitim într-o infrastructură de verificare precum Google Earth.

Experții în transparența AI au prezentat deja ceea ce este necesar: mecanisme de proveniență care să nu fie opționale și care să însoțească o imagine oriunde este vizualizată; eforturi solide și transparente pentru detectarea conținutului generat de AI și comunicarea modului în care acesta a fost creat, inclusiv a incertitudinilor și complexităților care nu pot fi reduse la o simplă dihotomie „AI versus real”. De asemenea, este nevoie ca responsabilitatea privind demonstrarea autenticității să revină companiilor care implementează aceste sisteme, nu oamenilor care documentează propriile tragedii. Google știe cum să construiască produse bazate pe încredere. Cu un an în urmă, Google Pixel 10 a devenit primul smartphone care a integrat direct în cameră standardul deschis C2PA pentru stabilirea provenienței imaginilor, semnând fotografiile chiar în momentul capturării. În cele mai noi modele iPhone 18 Pro ale Apple, prezentate recent, o serie de funcții le permit utilizatorilor să genereze imagini de referință semnate criptografic și să identifice imaginile generate sau editate cu ajutorul AI.

„Atunci când una dintre cele mai mari companii din lume decide că această problemă merită rezolvată la nivel hardware, este o recunoaștere a faptului că pierderea colectivă a încrederii în imaginile pe care le vedem nu mai este o preocupare de nișă pentru cercetătorii criminaliști”, a remarcat Hany Farid, unul dintre cei mai importanți experți în deepfake. „Este o problemă generală și necesită soluții la fel de răspândite.”

Google și-a retras funcția într-o singură zi, însă nimeni nu poate retrage îndoiala care se leagă acum de fiecare imagine provenită dintr-o zonă de război. Imaginile satelitare false din acest conflict continuă să fie capturate prin screenshot și introduse în noi afirmații, iar documentarea autentică poartă acum un asterisc pe care nu îl merită.

Undeva în acest spațiu dintre adevăr și îndoială, fotojurnaliștii care trebuie să-și demonstreze autenticitatea propriilor imagini, familiile care încearcă să decidă căror avertismente să le dea crezare și cei care verifică informațiile aleargă acum în urma minciunii continuând munca lentă de a restabili ceea ce o lansare de produs a făcut să poată fi pus sub semnul întrebării într-o clipă. Google a declarat că funcția va reveni după ce vor fi pregătite „măsuri de protecție mai puternice”. Speranța care rămâne este că această pauză a dus și la înțelegerea faptului că niciun beneficiu al integrării inteligenței artificiale generative în Google Earth nu merită răul și îndoiala pe care le creează.