Cine sunt cei care ne ascultă discuțiile prin smartphone-uri. Sunt plătiți cu 12 dolari pe oră și notează fiecare cuvânt pe laptopurile lor

Alexa, Siri, Cortana sunt câteva dintre numele care știu poate mai multe despre noi decât cei mai apropiați prieteni ai noștri. Cum au ajuns giganții din Silicon Valley să ne cunoască cele mai ascunse secrete?

Lui Ruthy Hope Slatis nu-i venea să creadă ceea ce auzea. Era angajată temporar printr-o agenție de recrutare din afara Bostonului pentru un post cu o descriere vagă: transcrierea de fișiere audio pentru Amazon.com. Pentru 12 dolari pe oră, ea și colegii săi aduși prin contract sau „asociați de date” ascultau fragmente de conversații aleatorii și notau fiecare cuvânt pe laptopurile lor. Amazon ar spune că munca a fost esențială pentru un produs top secret de recunoaștere a vorbirii. Fișierele includeau înregistrări cu momentele cele mai intime din casele oamenilor, scrie Bloomberg.
Acestea se întâmplau în toamna anului 2014, când Amazon a dezvăluit boxa portabilă Echo animată de asistentul virtual activat prin voce Alexa. Amazon spune despre Alexa că este un miracol al inteligenței artificiale în prima sa reclamă pentru Echo – în clip o familie solicita și primea actualizări de știri, răspunsuri la întrebări banale și ajutor la temele copiilor. Însă Slatis a început curând să înțeleagă măsura în care oamenii se aflau în spatele magiei robotice pe care o vedea în reclamă. „O, Dumnezeule, la asta lucrez”, își amintește ea ce gândea atunci. Amazon surprindea fiecare comandă vocală din cloud și se baza pe analiști de date ca ea pentru a învăța sistemul. Slatis credea la început că asculta testeri plătiți care și-au oferit modelele vocale în schimbul câtorva dolari. Și-a dat seama că nu este deloc așa.
Înregistrările pe care le asculta împreună cu colegii ei erau deseori intense, ciudate sau foarte ciudate. Oameni ce păreau singuri își mărturiseau secretele și temerile intime: un băiat și-a exprimat dorința de a viola; erau bărbați care o tratau pe Alexa ca Joaquin Phoenix în filmul SF „Her”. Și cum programul de transcriere a crescut odată cu popularitatea Alexei, la fel creșteau și informațiile private dezvăluite în înregistrări. Alți asociați de date își amintesc de copii care își împărtășeau adresa de domiciliu și numărul de telefon, de un bărbat care încerca să comande jucării sexuale, de un invitat la o petrecere care se întreba cu voce tare dacă nu cumva Amazon se uita la ei chiar în acel moment. „N-aveau cum să fi știut că sunt ascultați”, spune Slatis. „Acești oameni nu au fost de acord cu acest lucru.” Ea a renunțat în 2016. La cinci ani de când Slatis a simțit pentru prima că i se face pielea de găină, un sfert dintre americani au „boxe inteligente” precum Echo, Google Home și Apple HomePod. (Sunt câțiva care au cumpărat chiar și Portalul Facebook, un ecran video inteligent.) Amazon câștigă până acum bătălia vânzărilor, raportând că au fost achiziționate peste 100 de milioane de dispozitive animate de Alexa.

 
Însă acum, între cele mai mari companii din lume se duce un război pentru a o aduce pe Alexa, pe Siri al Apple, pe asistentul Google, pe Cortana a Microsoft și pe serviciul echivalent al Facebook mult mai adânc în viețile oamenilor. Microfoanele sunt încorporate în telefoane, ceasuri inteligente, televizoare, frigidere, SUV-uri și mai tot ce înseamnă dispozitiv inteligent. Firma de consultanță Juniper Research estimează că până în 2023 piața mondială a boxelor inteligente va ajunge la 11 miliarde de dolari pe an și că vor exista aproximativ
7,4 miliarde de dispozitive controlate prin voce. Este vorba despre un dispozitiv pentru fiecare persoană de pe Pământ.
Aceste mașini nu creează fișiere audio din fiecare decibel al tău – companiile tehnologice spun că difuzoarele lor inteligente înregistrează audio doar atunci când utilizatorii le activează, dar introduc microfoane active în permanență în bucătării și dormitoare care ar putea să surprindă sunete pe care utilizatorii nu intenționează să le împartă cu nimeni. „Microfoanele care ascultă tot timpul sunt ceva îngrijorător. Am descoperit că utilizatorii acestor dispozitive închid ochii și au încredere că companiile nu vor face nimic rău cu datele înregistrate ”, spune Florian Schaub, profesor de la Universitatea din Michigan, care studiază comportamentul uman în jurul software-ului de comandă vocală. „Există această eroziune înfiorătoare a vieții private care continuă fără întrerupere. Oamenii nu știu să se protejeze.”
Cu toate acestea, așa-numitele dispozitive inteligente depind de mii de oameni slab plătiți care strâng fragmente de sunet cu ajutorul cărora companiile de tehnologice își îmbunătățesc urechile electronice; șoaptele noastre cele mai ușoare au devenit unele dintre cele mai valoroase seturi de date ale giganților din Silicon Valley. La începutul acestui an, Bloomberg News a scris în premieră despre amploarea utilizării de către industria de tehnologie a oamenilor pentru a asculta sunetele colectate de la utilizatorii lor fără permisiune.Actuali și foști asociați de date ca Slatis arată clar că dezavantajele supravegherii audio generale erau evidente pentru cei cu mize financiare mai mici în joc. „Nu s-a simțit niciodată ca fiind ceva corect”, spune un transcriptor pentru un rival al Alexa, care, la fel ca majoritatea asociaților de date, a semnat un acord care-i interzice să vorbească despre munca sa. „Ce vând ei cu adevărat clienților?”

 
Pentru procesul de învățare a mașinilor să identifice și să răspundă la propoziții vorbite a fost de cele mai multe ori nevoie de potrivirea fișierelor audio cu textul transcris. Este un proces lent și scump. Primii pionieri au cumpărat sau au construit biblioteci masive de înregistrări – oameni care citesc ziare sau alte materiale pre-scrise la microfon. Apple a devenit prima companie majoră care a schimbat modelul când în 2011 a livrat iPhone 4S cu Siri, achiziționat cu un an înainte de la un centru de cercetare finanțat de Pentagon. Nu mai era nevoie ca înregistrările să fie scrise și potrivite în laboratoare. Apple a vândut peste 4 milioane de telefoane 4S în câteva zile și în curând a început să acumuleze un munte de date vocale gratuite și naturale. În primii ani, compania a avut încredere în specialiștii în software vocal pentru a utiliza datele cu scopul de a îmbunătăți abilitățile lui Siri, însă Apple a revenit la control în jurul anului 2014. „Munca era foarte migăloasă: după ce ascultai 15 sau 30 de minute, căpătai dureri de cap”, spune Tao Ma, fost specialist de vorbire la Siri. Echipa de la Apple a cedat o mare parte a acestei munci firmelor de outsourcing din Europa, inclusiv GlobeTech, din Irlanda.
În ultimii ani, Apple a devenit mai agresivă în procesul de culegere și analiză a vocilor oamenilor, fiind îngrijorată de faptul că puterea de a înțelege și viteza lui Siri au rămas în urma celor ale Alexa și Google Assistant. Apple a tratat dezvoltarea lui Siri ca pe un motor de căutare verbală pe care trebuia să-l pregătească pentru a răspunde întrebărilor interminabile ale utilizatorilor și și-a crescut dependența de analiza audio pentru a alimenta lexiconul asistentului.
Foști colaboratori descriu sistemul ca pe un Turn Babel sau ceva din distopia 1984 a lui George Orwell. Unii povestesc cum la un birou al GlobeTech de lângă aeroportul din Cork, Irlanda stăteau în tăcere la MacBookuri, purtând căști, cu misiunea de a transcrie 1.300 de înregistrări pe zi, fiecare dintre ele putând fi o singură propoziție sau o întreagă conversație. (Această cotă a fost redusă de la 2.500 de înregistrări, spun alții, pentru a îmbunătăți ratele de acuratețe.) Când un asociat de date făcea clic pe butonul de redare pentru a asculta o înregistrare vocală, computerul umplea o casetă de text cu cuvintele despre care credea că Siri „le-a auzit”, apoi solicita angajatului să aprobe sau să corecteze transcrierea și să meargă mai departe.
Un program pe care colaboratorii l-au folosit, numit CrowdCollect, includea butoane care le permiteau să treacă peste înregistrări din mai multe motive – declanșarea accidentală, lipsa audio, limbajul indecent –, însă, spun ei, nu a existat un mecanism specific pentru a raporta sau a șterge un fișier audio jignitor inadecvat, cum ar fi cererile unor utilizatori care par beți sau oameni care dictează mesaje deocheate. Colaboratorilor care și-au întrebat managerii dacă pot sări peste înregistrări prea intime li s-a spus că nicio înregistrare nu este prea intimă.
Asociații de date rezistau adesea doar câteva luni, iar instruirea în problemele de confidențialitate a fost minimă. Un fost colaborator care nu avea nicio calificare cu privire la munca sa spune că ascultarea utilizatorilor din lumea reală a fost ceva „absolut hilar”.  
În 2015, același an în care directorul executiv al Apple, Tim Cook, a descris confidențialitatea ca fiind un „drept fundamental al omului”, mașinăriile Apple prelucrau mai mult de un miliard de cereri pe săptămână. Până atunci se ajunsese ca utilizatorii să poată activa o aplicație a programului de operare astfel încât nu mai trebuiască să apese un buton pe iPhone pentru a activa asistentul vocal; acesta asculta mereu. În acordul de utilizare, spune Apple, se prevede că datele vocale pot fi înregistrate și analizate pentru a îmbunătăți Siri, dar nicăieri nu este menționat că oamenii ar putea asculta. „M-am simțit jenat ascultând alți oameni”, spune unul dintre foștii colaboratori, mai ales având în vedere cât de dese erau înregistrările copiilor.

 
Zece foști directori ai Apple din divizia Siri spun că nu au văzut și încă nu văd acest sistem ca fiind o încălcare a vieții private. Acești foști directori spun că înregistrările au fost dezasociate de ID-urile de utilizator Apple și au presupus că utilizatorii au înțeles că compania le prelucrează înregistrările audio, deci ce mai conta dacă oamenii au ajutat la procesare?
Foști și actuali colaboratori spun că cele mai multe solicitări pentru Siri sunt banale – „cântă o melodie a lui Justin Bieber”, „unde este cel mai apropiat McDonald’s”, dar își amintesc că au dat și peste mesaje extrem de grafice, cu conținut rasist sau homofob. Un fost analist de date care a lucrat la transcrieri de la Siri spune că angajații din Cork făceau schimb de povești de groază în timpul pauzelor de țigară. Un actual analist, rugat să povestească cea mai scandaloasă înregistrare care a venit prin CrowdCollect, spune că era ceva asemănător cu o scenă din Fifty Shades of Grey.
Apple susține că mai puțin de 0,2% din solicitările pentru Siri sunt supuse analizei umane, iar foștii manageri resping mărturiile contractanților ca fiind exagerări. „Oh, am auzit pe cineva care face sex sau așa altceva. Dar auzi și oameni care emit gaze sau strănută. Există tot felul de zgomote acolo când porniți un microfon“, spune Tom Gruber, cofondator al Siri. „Nu este ca și cum dispozitivul ar avea ca scop înregistrarea oamenilor care scot anumite tipuri de sunete. Este ca o întâmplare.”
Până în 2019, după ce Apple a pus Siri pe produse precum căștile sale fără fir și boxa HomePod, numărul de comenzi vocale procesate a ajuns la 15 miliarde; 0,2% din 15 miliarde reprezintă 30 milioane de „întâmplări” pe lună, sau 360 milioane pe an.