Cum au ajuns asistenții AI să știe ce planuri ai pentru prânz, ce năzbâtii ți-a mai făcut pisica și până și glumița aceea deplasată făcută cu colegul pe care șeful nu trebuia s-o știe

În graba de a adopta instrumente bazate pe inteligență artificială care îmbunătățesc productivitatea, este posibil ca firmele și persoanele private să nu își dea seama de un cost esențial: confidențialitatea, sau intimitatea.

Un articol publicat recent de The Wall Street Journal evidențiază modul în care aplicațiile de luat notițe în conversații folosind inteligența artificială, concepute pentru a eficientiza întâlnirile și comunicarea, captează și distribuie în mod accidental conversații private, remarci nonșalante și chiar picanterii personale. De la preferințe legate de sandvișuri la accidente implicând cartofi dulci, aceste instrumente transcriu mai mult decât li se cere. Și, în timp ce unii utilizatori râd de stânjeneală, alții sunt lăsați să navigheze printre trădările neintenționate ale încrederii. Tiffany N. Lewis era îngrijorată că este victima unei păcăleli. Un posibil client o contactase pentru a colabora cu agenția ei de marketing digital pro-bono, dar mesajul său a ajuns direct în spam. Apoi a ratat mai multe întâlniri programate cu domnișoara Lewis. Să fi fost acesl om un impostor? Când clientul a rugat-o să se întâlnească din nou, Lewis l-a adăugat la un apel pe care îl purta deja cu asistentul ei. Înainte de a deschide conversația, Lewis a glumit: „Vom vorbi cu legendarul prinț nigerian?” În ciuda semnalelor de alarmă că are de-a face cu o escrocherie, personajul s-a dovedit a fi o persoană legitimă. Lewis s-a simțit ușurată – până când și-a dat seama că noul ei client  a primit un rezumat complet al apelului în căsuța sa poștă electronică, inclusiv remarca ei cu „prințul nigerian”. Tot timpul ea folosea un sistem de notițe bazat pe inteligență artificială. „Am avut mare noroc că persoana avea un bun simț al umorului”, a spus Lewis, care locuiește în Stow, Ohio. Inteligența artificială îți ascultă ședințele  de lucru – inclusiv părțile pe care nu vrei să le audă nimeni. Înainte ca participanții să se înscrie sau când un coleg îi cere altuia să se retragă pentru a discuta o problemă separat, cei care iau notițe prin intermediul inteligenței artificiale pot intercepta conversațiile și discuțiile private destinate unui public select, apoi pot transmite citate brute tuturor celor prezenți la întâlnire. Nicole și Tim Delger conduc o firmă de branding din Nashville numită Studio Delger. După o întâlnire de afaceri de la sfârșitul anului trecut, cuplul a primit un rezumat de la asistentul de inteligență artificială al Zoom, care în mod clar nu avea legătură cu munca. „Studio a discutat despre posibilitatea de a obține ingrediente pentru sandvișuri de la Publix”, spunea un paragraf. O altă concluzie cheie: „Nu-mi place supa”. Clientul lor nu s-a prezentat la întâlnire, iar cei doi își petrecuseră timpul discutând despre ce să pregătească pentru prânz. „Aceasta a fost prima dată când a prins o conversație privată”, a spus Nicole. Din fericire, rezumatul nu a ajuns la client. Andrea Serra, coordonator de strategie la o agenție de comunicare, a simțit pe pielea ei ce înseamnă incursiunile inteligenței artificiale în viața privată. Într-o transcriere, un asistent AI de luat notițe a surprins-o descriindu-și frustrarea față de noul magazin Whole Foods din cartierul ei. Deși își setase preferințele astfel încât notițele să ajungă doar la gazdă, a distribuit e-mailul cu alte două persoane participante la apel pentru a se amuza. O altă recapitulare a întâlnirii cuprindea paragrafe în care ea discuta despre faptul că aproape că și-a dat foc bucătăriei încercând să facă o nouă rețetă cu cartofi dulci. „Erau acolo toți pașii noștri de acțiune, toată strategia pe care am discutat-o în timpul întâlnirii și apoi, la întâmplare, ceva despre viața noastră personală despre care am vorbit săptămâna trecută și am vrut să recuperăm și săptămâna aceasta”, a povestit Serra. „Doar o mică propoziție, ca o surpriză, acolo.” Deși șefa ei, Debora Lima, sperase că rezumatele lucrului cu inteligența artificială vor reduce munca echipei, încă așteaptă ca tehnologia să se îmbunătățească. Între timp, ea și colegii ei au îmbrățișat noua tehnologie ca pe o rătăcire comică. În timp ce se uita peste notițele unei întâlniri pe care a găzduit-o recent, a observat expresia „hei, plăcințică drăgălașă” în transcriere. Lima a spus că ar trebui să existe un canal la nivelul întregii companii unde să fie arhivate cele mai amuzante exemple. Aplicațiile de luat notițe pot îndeplini o varietate de sarcini, de la înregistrarea și transcrierea apelurilor, generarea de acțiuni pentru echipe și recapitularea a ceea ce s-a spus deja pentru oricine se alătură cu întârziere. Multe semnalează participanților că o întâlnire este înregistrată și transcrisă. Funcția AI Companion de la Zoom, care a generat peste 7,2 milioane de rezumate ale întâlnirilor până la sfârșitul lunii ianuarie 2024, afișează o casetă de dialog în partea de sus a ecranului pentru a anunța participanții când este activată. Atâta timp cât este activă, o pictogramă diamant cu AI Companion continuă să clipească în colțul din dreapta sus al întâlnirii. De asemenea, utilizatorii pot solicita gazdei să nu mai utilizeze funcția AI Companion. „Vrem ca utilizatorii să simtă că dețin cu adevărat controlul”, a declarat Smita Hashim, director de produs la Zoom. Funcția de notițe AI de la Google funcționează similar, doar gazdele întâlnirilor sau angajații organizației gazdă având posibilitatea de a o activa sau dezactiva. Când este activată, utilizatorii vor vedea o notificare și vor auzi un semnal audio, iar o pictogramă creion albastru va apărea în colțul din dreapta sus. „Lucrăm cu multă atenție pentru a ne asigura că participanții la întâlnire știu exact dacă și când sunt utilizate instrumentele AI din Meet”, a declarat Awaneesh Verma, director senior de management de produs și comunicare în timp real la Google Workspace. Rezumatele automate pot fi informative și pot economisi timp sau, în mod neintenționat, pot fi amuzante. Kelsey Ogletree, director executiv al unei platforme tehnologice pentru profesioniștii din mass-media, a primit un rezumat Zoom AI intitulat „Dimineața dezordonată a lui Monty”, care descrie cum câinele ei, Monty, a mâncat resturi de mâncare de pe tejghea și a vomitat prin casă. În continuare, se arată că „Kelsey a fost dezgustată de incident și s-a gândit să-i spele capul lui Monty cu detergent de vase Dawn”. A fost o conversație între ea și soțul ei, care este și partenerul ei de afaceri. (Și Monty este de fapt o pisică, nu un câine.) John Barentine, astronom și consultant în Tucson, Arizona, nu folosește dispozitive de notițe bazate pe AI, dar a avut numeroase apeluri în care  acestea au fost activate. Cel mai recent, a fost surprins de ce a înțeles AI dintr-o convorbire care i-a fost trimisă.  Rezumatul de la începutul conversației spunea: „John Barentine menționează cu umor că există o doză letală de apă pentru oameni”. Barentine a explicat că a discutat despre inundațiile devastatoare din Texas cu un client; inteligența artificială a înțeles complet greșit contextul. El apreciază că acum este mai probabil să folosească funcția de chat privat în cadrul întâlnirilor, în loc să spună ceva cu voce tare în timp ce inteligența artificială ascultă. „Cel puțin știu că, dacă fac o remarcă cuiva în privat, deocamdată aceasta nu este înțeleasă de inteligența artificială care ia notițe”, a spus astronomul.    

Traducere și adaptare: Bogdan Cojocaru