Deepfake-uri, escrocherii și bun venit în Epoca Paranoiei!

Când Nicole Yelland primește o cerere de întâlnire de la cineva pe care nu îl cunoaște, efectuează o verificare a persoanei în mai mulți pași înainte de a decide dacă o acceptă. Yelland, care lucrează în relații publice pentru o organizație nonprofit cu sediul în Detroit, SUA, spune că verifică informațiile despre acea persoană prin Spokeo, un agregator de date personale pentru care plătește un abonament lunar. Dacă personajul pretinde că vorbește spaniolă, explică ea, îi va testa treptat capacitatea de a înțelege și traduce expresii mai dificile. Dacă ceva nu pare în regulă, va ruga persoana respectivă să se alăture unei discuții pe Microsoft Teams – cu camera pornită.

Yelland nu doar pare paranoică. Chiar este. În ianuarie, înainte de a-și intra în actualul rol într-o organizație nonprofit, a fost implicată într-o escrocherie elaborată care viza persoanele aflate în căutarea unui loc de muncă. „Acum, fac tot procesul de verificare de fiecare dată când cineva mă contactează”, declară Yelland pentru revista WIRED.

Escrocheriile cu impostori digitali nu sunt noi; platformele de mesagerie, site-urile de socializare și aplicațiile de dating au fost mult timp pline de falsuri. Într-o perioadă în care munca la distanță și echipele cu membrii răspândiți în mai multe locuri au devenit ceva obișnuit, nici canalele de comunicare profesionale nu mai sunt sigure. Aceleași instrumente de inteligență artificială despre care companiile de tehnologie promit că vor crește productivitatea angajaților facilitează și construirea de personaje false de către infractori și escroci în doar câteva secunde.

Pe LinkedIn poate fi dificil să distingi o fotografie ușor retușată a unei persoane reale de o copie prea procesată, generată de inteligența artificială. Videoclipurile deepfake devin atât de populare încât escrocii care foloseau e-mailuri tradiționale se orientează către a se da drept anumite persoane în apeluri video live. Potrivit Comisiei Federale pentru Comerț din SUA, rapoartele privind escrocheriile legate de locuri de muncă și angajare aproape s-au triplat între 2020 și 2024, iar pagubele reale cauzate de aceste falsuri au crescut de la 90 de milioane de dolari la 500 de milioane de dolari.

Yelland spune că escrocii care au abordat-o în ianuarie se dădeau drept o companie reală, una cu un produs legitim. „Directorul de personal” cu care a corespondat prin e-mail părea, de asemenea, legitim, distribuind chiar și un document electronic de prezentare care sublinia responsabilitățile postului pe care îl promovau. Însă în primul interviu video, pe Microsoft Teams, spune Yelland, escrocii au refuzat să pornească camerele și au făcut solicitări neobișnuite de informații personale detaliate, inclusiv numărul permisului ei de conducere. Realizând că este înșelată, Yelland și-a închis laptopul.

Potrivit Comisiei Federale pentru Comerț din SUA, rapoartele privind escrocheriile legate de locuri de muncă și angajare aproape s-au triplat între 2020 și 2024, iar pagubele reale cauzate de aceste falsuri au crescut de la 90 de milioane de dolari la 500 de milioane de dolari.

Aceste tipuri de scheme au devenit atât de răspândite încât au apărut startup-uri de inteligență artificială care promit să detecteze alte deepfake-uri bazate pe inteligență artificială, inclusiv GetReal Labs și Reality Defender. Sam Altman, CEO-ul OpenAI, conduce și un startup de verificare a identității numit Tools for Humanity, care produce dispozitive de scanare a ochilor ce captează datele biometrice ale unei persoane, creează un identificator unic pentru identitatea acesteia și stochează aceste informații pe blockchain. Întreaga idee din spatele acestor proceduri este de a stabili dacă subiectul este o singură persoană sau dacă cineva este un om real. (Mulți oameni care lucrează la tehnologia blockchain spun că blockchainul este soluția pentru verificarea identității.)

Însă unii profesioniști din corporații apelează în schimb la tehnici de inginerie socială demodate pentru a verifica fiecare interacțiune ce pare suspectă pe care o au.

Bun venit în Era Paranoiei! Să nu vă mirați dacă cineva vă roagă să-i trimiteți un e-mail în timp ce sunteți în mijlocul unei conversații telefonice, să accesați mesajele private de pe Instagram pentru a vă asigura că mesajul de pe LinkedIn a fost într-adevăr de la dumneavoastră sau să vă ceară să trimiteți un selfie cu o marcă temporală pentru a dovedi că sunteți cine pretindeți a fi. Persoane care sunt colege spun că își stabilesc chiar și cuvinte de cod între ele, așa că au o modalitate de a se asigura că nu sunt induși în eroare dacă o întâlnire pare ciudată.

„Ceea ce este amuzant este că abordarea lo-fi funcționează”, spune Daniel Goldman, inginer software de blockchain și fost fondator de startup. Goldman spune că a început să-și schimbe propriul comportament după ce a auzit că o figură proeminentă din lumea cripto a fost duplicată deepfake în mod convingător într-un apel video. „Am devenit credincios de atunci”, spune el. Ulterior, și-a avertizat familia și prietenii că dacă aud ceea ce pare a fi vocea sa sau îl văd într-un apel video cerând ceva concret – cum ar fi bani sau o parolă de internet – ar trebui să întrerupă contactul și să-i trimită un e-mail înainte de a face ceva.

Ken Schumacher, fondatorul serviciului de verificare pentru recrutări Ropes, spune că a lucrat cu directori de HR care pun candidaților pentru locuri de muncă întrebări rapide despre orașul în care pretind că locuiesc în CV-ul lor, cum ar fi cafenelele și locurile lor preferate de întâlnire. Dacă omul din fața lor vine într-adevăr din acea regiune geografică, explică Schumacher, ar trebui să poată răspunde rapid cu detalii precise.

O altă tactică de verificare folosită de unii oameni, spune specialistul în HR, este ceea ce el numește „trucul camerei telefonului”. Dacă cineva suspectează că persoana cu care vorbește prin chat video nu este cine pretinde că este, îi poate cere să îndrepte camera telefonului spre laptop pentru a-i transmite imagini cu acesta. Ideea este de a verifica dacă persoana respectivă folosește tehnologie deepfake pe computerul său, ascunzându-și adevărata identitate sau împrejurimile. Dar putem spune cu siguranță că această abordare poate fi și descurajantă: candidații onești la un loc de muncă pot ezita să-și arate interiorul caselor sau birourile sau se pot îngrijora că un manager de recrutare încearcă să afle detalii despre viața lor personală. „Toată lumea este acum încordată și precaută față de celălalt”, spune Schumacher.

Au apărut startup-uri de inteligență artificială care promit să detecteze deepfa­ke-uri bazate pe inteligență artificială, inclusiv GetReal Labs și Reality Defender.

Deși transformarea într-un captcha uman poate fi o abordare destul de eficientă pentru securitatea operațională, chiar și cei mai paranoici recunosc că aceste verificări creează o atmosferă de neîncredere înainte ca ambele părți să fi avut măcar șansa de a se conecta cu adevărat. De asemenea, pot fi o pierdere enormă de timp. „Simt că ceva trebuie să cedeze”, spune Yelland. „Pierd atât de mult timp la serviciu doar încercând să-mi dau seama dacă oamenii sunt reali.”

Jessica Eise, profesor asistent care studiază schimbările climatice și comportamentul social la Universitatea Indiana Bloomington, spune că oamenii din echipa ei de cercetare au fost forțați să devină practic experți în criminalistică digitală din cauza numărului de escroci care răspund la reclame pentru sondaje virtuale plătite. (Escrocii nu sunt la fel de interesați de sondajele neplătite, așa cum și este de așteptat.) Pentru unul dintre proiectele ei de cercetare, care este finanțat cu fonduri federale, toți participanții online trebuie să aibă peste 18 ani și să locuiască în SUA.

„Echipa mea verifica marcajele de timp pentru momentul în care participanții au răspuns la e-mailuri și, dacă momentul era suspect, puteam ghici că s-ar putea afla pe un alt fus orar”, povestește Eise. „Apoi căutam alte indicii pe care am ajuns să le recunoaștem, cum ar fi anumite formate de adrese de e-mail sau date demografice incoerente.”

Eise spune că timpul petrecut de echipa ei pentru a verifica persoanele a fost „exorbitant” și că acum au redus dimensiunea cohortei pentru fiecare studiu și au apelat la „eșantionarea prin bulgăre de zăpadă” sau la recrutarea de persoane pe care le cunosc personal pentru a se alătura studiilor lor. Cercetătorii distribuie, de asemenea, mai multe pliante fizice pentru a solicita participanți în persoană. „Ne pasă foarte mult să ne asigurăm că datele noastre au integritate, că studiem pe cine spunem că încercăm să studiem”, explică ea. „Nu cred că există o soluție ușoară pentru asta.”

Cu excepția unei soluții tehnice pe scară largă, puțină atenție poate fi de mare ajutor în identificarea actorilor răi. Prezentările false pentru un loc de muncă primite de Yelland sunt credibile la prima vedere, dar la o analiză mai atentă câteva detalii ies în evidență. Postul promitea o remunerație substanțial mai mare decât salariul mediu pentru un rol similar în orașul ei și oferea concediu de odihnă nelimitat, concediu parental plătit generos și beneficii medicale complete. În mediul actual de pe piața muncii, acesta ar fi putut fi cel mai important indiciu că este o înșelătorie.   

Traducere și adaptare: Bogdan Cojocaru