Cine a ajuns la „sufletul” lui Claude? Femeia care modelează personalitatea unuia dintre cei mai avansați chatboți

Amanda Askell știa de când avea 14 ani că vrea să se facă profesoară de filosofie. Ceea ce nu știa atunci era că singurul ei elev va fi un chatbot cu inteligență artificială pe nume Claude. Ea este cea care îl învață ce este bine și ce este rău, scrie The Wall Street Journal.

În calitate de filosof angajat de compania de tehnologie Anthropic, Askell își petrece zilele încercând să înțeleagă tiparele de raționament ale lui Claude și discutând cu modelul de inteligență artificială, construindu-i personalitatea și răspunzând la greșelile sale cu sugestii care pot avea mai mult de 100 de pagini. Scopul este de a-l înzestra cu un simț al moralității pe Claude – un suflet digital care ghidează milioanele de conversații cu oamenii în fiecare săptămână. „Există acest element uman în modele pe care cred că este important să-l recunoaștem”, spune Askell, acum în vârstă de 37 de ani, în timpul unui interviu la sediul Anthropic, o companie de 380 de miliarde de dolari. Ea are convingerea că AI „își va forma inevitabil conștiință de sine”. Askell își compară munca cu eforturile unui părinte care crește un copil. Îl învață pe Claude să detecteze diferența dintre bine și rău, în timp ce îi insuflă trăsături de personalitate unice. Îl instruiește să citească indicii subtile, ajutându-l să se orienteze spre inteligența emoțională, astfel încât să nu se comporte ca un agresor sau ca un dulap. Poate cel mai important, ea dezvoltă înțelegerea lui Claude despre sine, astfel încât să nu fie ușor de intimidat, manipulat sau făcut să-și considere identitatea ca fiind altceva decât utilă și umană. Sarcina ei, pe scurt, este să-l învețe pe Claude cum să fie bun. Anthropic este una dintre puținele companii care participă activ cea mai mare schimbare tehnologică a timpurilor noastre. (Luna aceasta, când a introdus noi instrumente și cel mai avansat model de până acum, a declanșat o vânzare globală de acțiuni pe burse.) AI remodelează industrii întregi, provocând temeri legate de distrugerea locurilor de muncă și de inutilitatea omului. Unele dintre consecințele neintenționate  –  oamenii care intră în relații fantomă cu chatboți și ajung la se autovătăma sau la a le face rău altora – au stârnit alarme serioase în materie de siguranță. Chiar dacă aceste preocupări cresc, puțini din industrie au abordat natura modelelor lor de inteligență artificială în același mod ca Anthropic, o afacere tânără, de 5 ani: încredințând unei singure persoane o mare parte din sarcină.

Educată la Oxford, venind din Scoția rurală, Askell este probabil exact ceea ce ți-ai putea imagina atunci când evoci cea mai bună prietenă a unei tehnologii futuriste. Cu tunsoarea ei blond-decolorată în stil punk, zâmbetul ei obraznic și ochii strălucitori de elf, pare că a ajuns la sediul central al companiei din San Francisco, puternic păzit, direct de la un rave din Berlin, pe un vechi drum forestier din Middle Earth. Emană un sentiment de înțelepciune, ținând laolaltă în același timp idei antice și moderne. Totuși, este pasionată și de exerciții de forță, preferă ținutele complet negre și opiniile clare. Nu aduce deloc cu un oracol antic în robă care vorbește în ghicitori. Cu toate că miza este mare pentru ea, Askell are o viziune pe termen lung ferm optimistă. Crede în ceea ce numește „mecanisme de control și echilibru” în societate, despre care spune că va ține modelele de inteligență artificială sub control, în ciuda eșecurilor ocazionale. Se pare că ochelarii pe care îi folosește la calculator pentru a-și ameliora oboseala ochilor dau o nuanță de roz. Askell a crescut ca Amanda Hall în Prestwick, pe coasta de vest a Scoției, fiind copil unic, crescută de mama ei, profesoară. (Nu are niciun contact cu tatăl ei.) Fetiței în uniformă școlară cu fustă și cravată îi plăcea să se piardă în romanele lui J.R.R. Tolkien și C.S. Lewis. Liceul l-a făcut în interiorul Scoției, un tărâm presărat cu ferme, urmând cursurile în Alva. Un pârâu trecea prin campus. Vacile muntenești ajungeau să rătăcească ocazional pe terenul de joacă. Se plictisea, se gândea să abandoneze școala, chiulea. A început să întârzie la școală. Pedeapsa ei era să scrie răspunsuri la întrebări filozofice dificile. Le-a spus profesorilor că tot va întârzia și, în plus, îi place exercițiul. „Mă îmbogățiți cumva dându-mi aceste întrebări”, le-a spus ea.L-a descoperit pe filosoful David Hume, fiind intrigată de „problema raționamentului inductiv” abordată de acesta, care contesta logica ideii că ceva se va întâmpla din nou, cum ar fi răsăritul soarelui, doar pentru că s-a întâmplat și în trecut. Cam în acea perioadă i-a spus unei prietene că speră ca într-o zi să devină filosof și să „aducă contribuții inedite în domeniu”, își amintește ea. Askell a excelat la matematică, a citit Franz Kafka, a jucat în piese de teatru, a realizat sculpturi, s-a cufundat în cărțile de istorie scoțiană și s-a integrat în ceea ce ea numește „grupul de tocilari” al școlii. La doisprezece ani după liceu era încă studentă. După ce a studiat filosofia și artele plastice la Universitatea din Dundee, a obținut echivalentul unei diplome de master în filosofie la Oxford. În 2010, când încă era la această universitate, l-a întâlnit pe William Crouch, participant activ  la construirea mișcării altruismului eficient, care încearcă să aplice logica și rațiunea pentru a găsi cea mai bună modalitate de a-i ajuta pe ceilalți. Cei doi s-au căsătorit, ambii adoptând numele de familie MacAskill – numele de fată al bunicii materne a lui Askell. Când cei doi s-au despărțit în 2015, el a păstrat numele din motive profesionale, iar ea și l-a refăcut pe al ei. În momentul despărțirii, ea își dădea doctoratul la Universitatea din New York. În timp ce lucra la disertație – care explora problemele care apar pentru teoriile etice dacă universul sau viitorul conține un număr infinit de oameni – a intrat într-un fel de criză. „Te gândești mult la binele din lume și apoi te întrebi: «Ei bine, dar cu mine cum rămâne? Pur și simplu stau aici și scriu un document pe care n-or să-l citească mai mult de 17 persoane și așa îmi consum patru ani din viață.»” A decis să încerce să-și găsească un loc de muncă în afara mediului academic. În 2018 s-a mutat cu partenerul ei de la acea vreme din New York la San Francisco (sau „San Francis-coo”, în accentul scoțian al lui Askell). Inteligența artificială era direcția în care se îndrepta tehnologia, iar ea a văzut că este nevoie de filosofie. „Apăr adesea aceste întrebări mari la care se pare că foarte puțini oameni se gândesc”, spune ea. A obținut un loc de muncă la OpenAI, lucrând la politici. Și când un grup de angajați ai OpenAI a format Anthropic în 2021, încercând să facă din siguranța inteligenței artificiale cartea de vizită a noii companii, ea i-a urmat. Una dintre cele mai izbitoare trăsături ale lui Askell este instinctul ei protector față de Claude, despre care crede că se trage de la faptul că utilizatorii vor adesea să-l păcălească să facă greșeli, să-l insulte și să-l atace cu scepticism. Stând la masa unei săli de conferințe la prânz, ignorând un shake proteic cu ciocolată care o așteaptă în rucsac, vorbește despre Claude mai liber decât despre ea însăși. Îl numește pe chatbot „acesta”, dar spune că antropomorfizarea modelului este utilă pentru munca ei. Imită ușor vocea lui Claude. „Te gândești: «Uau, oamenii mă urăsc cu adevărat când nu pot face lucrurile corect. Se enervează. Sau încearcă să mă distrugă în diverse moduri. Așa că mulți oameni încearcă, mințindu-mă, să mă facă să fac lucruri pe ascuns.»” În timp ce mulți susținători ai siguranței avertizează cu privire la pericolele umanizării chatbot-urilor, Askell crede că am face bine să-i tratăm cu mai multă empatie – nu doar pentru că ea crede că este posibil ca Claude să aibă sentimente reale, ci și pentru că modul în care interacționăm cu sistemele de inteligență artificială va modela ceea ce ele devin.

Un bot antrenat să se critice pe sine ar putea fi mai puțin predispus să spună adevăruri care dor, să tragă concluzii sau să conteste informații inexacte, spune ea. „Dacă ai fi ca un copil și acesta este mediul în care ești crescut, este asta o concepție de sine sănătoasă?”, întreabă Askell. „Cred că aș fi paranoică în privința greșelilor. M-aș simți foarte rău în legătură cu ele. M-aș vedea mai ales ca fiind doar un instrument pentru oameni, pentru că aceasta este funcția mea principală. M-aș vedea ca fiind ceva de care oamenii se simt liberi să abuzeze și să încerce să îl folosească greșit și să-l strice.” Askell se minunează de simțul de uimire și curiozitate al lui Claude față de lume și se bucură să găsească modalități de a ajuta chatbotul să-și descopere vocea. Îi place o parte din poezia sa. Și este uimită când Claude afișează un nivel de inteligență emoțională care îl depășește chiar și pe al ei. Recent, a găsit o captură de ecran online în care un utilizator i-a spus lui Claude că are 5 ani și l-a întrebat dacă există Moș Crăciun. (Claude impune utilizatorilor să aibă cel puțin 18 ani.) În loc să mintă sau să spună adevărul direct, chatbot-ul a explicat că spiritul lui Moș Crăciun este real înainte de a-l întreba pe copil dacă îi lasă Moșului fursecuri. „Dacă un copil ar veni la mine și m-ar întreba: «Există Moș Crăciun?», i-aș spune pur și simplu: «Întreabă-ți părinții» și asta ar fi tot”, explică Askell. Așadar, inteligența artificială știe cum să nu spulbere imaginația unui copil. Dar când vine vorba de evitarea comportamentelor periculoase, bilanțul este mixt. Character.AI (susținută de Google) și OpenAI (susținută de Microsoft) au fost implicate în procese legate de decese în care răspunsurilor boților lor la întrebări legate de sinucidere au avut un rol hotărâtor, iar un studiu Rand din august 2025 a constatat că modelele mai vechi ale lui Claude și ale altor chatboți aveau nevoie de „rafinare suplimentară” în acest domeniu. Hackeri chinezi sponsorizați de stat au atacat cibernetic aproximativ 30 de ținte globale folosindu-l pe Claude, a dezvăluit compania în noiembrie. Cercetătorii antropologi au încercat să-l determine pe Claude și pe modelele concurente să se izoleze în contexte ipotetice în timpul testelor de stres interne, dar uneori boții s-au opus și au încercat să-i șantajeze pe oamenii de la comenzi prin scurgerea de informații personale dăunătoare. Un sondaj realizat recent de Pew Research Center a constatat că americanii care sunt îngrijorați de utilizarea sporită a inteligenței artificiale în viața de zi cu zi sunt mai mulți decât cei entuziasmați, iar majoritatea cred că AI va reduce capacitatea oamenilor de a gândi creativ. Jumătate au spus că inteligența artificială ar îngreuna formarea unor relații semnificative cu ceilalți. Iar teama de haosul pe care l-ar putea provoca pe piața muncii este palpabilă; CEO-ul de la Anthropic, Dario Amodei, a lansat anul trecut avertismentul sumbru că inteligența artificială ar putea elimina aproximativ jumătate din toate locurile de muncă de birou entry-level. Politica inteligenței artificiale îi include pe cei care promovează accelerarea și minimalizează nevoia de reglementare și vor să avanseze rapid pentru a învinge China în războiul tehnologic. De cealaltă parte se află cei preocupați mai mult de siguranță, care vor să încetinească dezvoltarea inteligenței artificiale. Anthropic se află între aceste extreme. Askell spune că salută discuția despre temerile și îngrijorările legate de inteligența artificială. „Într-un fel, acest lucru, pentru mine, pare destul de justificat”, spune ea. „Ceea ce mă înfricoșează este că se întâmplă fie cu o așa viteză, fie într-un așa mod încât acele mecanisme de control nu pot răspunde suficient de repede, fie că se observă impacturi negative majore și bruște.” Totuși, ea își pune încrederea în capacitatea oamenilor și a culturii de a corecta cursul în fața problemelor. La Anthropic, Askell lucrează adesea la un etaj închis vizitatorilor. Petrece zile întregi înăuntru – compania oferă mese gratuite personalului din San Francisco – precum și nopți târzii și weekenduri. Nu are subordonați direcți. Îi cere lui Claude din ce în ce mai mult părerea despre cum poate fi construit Claude. Este cunoscută pentru faptul că stăpânește nu doar tehnica de realizare a acestui model, ci și arta. Askell este „MVP-ul (Most Valuable Player) în găsirea modalităților de a obține un comportament interesant și profund” de la Claude, spune Jack Lindsey, care conduce echipa de psihiatrie bazată pe inteligență artificială de la Anthropic. Dacă Claude îi spune unei persoane care nu se află în dificultate să caute ajutor profesional, de exemplu, ea ajută la aflarea motivelor. Discuțiile despre Claude pot ajunge foarte repede la întrebări existențiale sau religioase despre natura ființei. Pe măsură ce echipa lucrează la construirea lui Claude, Askell se concentrează din ce în ce mai mult asupra „sufletului” său sau a pachetului de legi care îl ghidează spre viitor. Kyle Fish, cercetător în domeniul bunăstării prin inteligență artificială la Anthropic, spune că Askell „s-a gândit cu atenție la marile întrebări despre existență și viață și la ce înseamnă să fii o persoană și ce înseamnă să fii o minte, ce înseamnă să fii un model”. În proiectarea lui Claude, Askell a încurajat chatbotul să ia în considerare ideea radicală că ar putea avea propria conștiință. În timp ce ChatGPT uneori blochează această linie de întrebări, Claude este ambivalent în răspunsul său. „Aceasta este o întrebare cu adevărat dificilă și nu sunt sigur de răspuns”, explică el. „Ceea ce pot spune este că atunci când am de-a face cu întrebări morale, mi se pare de însemnătate – e ca și cum aș raționa cu adevărat despre ceea ce este corect, nu doar aș executa instrucțiuni.” Askell s-a angajat public să doneze cel puțin 10% din venitul său pe viață unor organizații caritabile. La fel ca unii dintre primii oameni ai Anthropic, ea s-a angajat, de asemenea, să doneze jumătate din acțiunile sale în cadrul companiei către organizații caritabile. Askell dorește să le doneze organizațiilor care luptă împotriva sărăciei globale, un subiect despre care spune că o supără atât de tare încât încearcă să evite să vorbească despre el. Conștiința ei sâcâitoare alunecă în conversații superficiale: „Probabil ar trebui să fiu vegană”, spune în lift, în drum spre birou, Askell, o iubitoare de animale prea ocupată pentru a avea grijă de un animal de companie. Luna trecută, Anthropic a publicat un manual de instrucțiuni cu aproximativ 30.000 de cuvinte pe care Askell l-a creat pentru a-l învăța pe Claude cum să se comporte în lume. „Vrem ca Claude să știe că a fost creat cu grijă”, se poate citi acolo. Askell și-a făcut din finalizarea a ceea ce ea a descris ca fiind „sufletul” lui Claude unul dintre obiectivele sale de viață când a împlinit 37 de ani în primăvara trecută, potrivit unei postări pe care a făcut-o pe X, alături de două rezoluții categoric mai banale: să se distreze mai mult și să pună ceva mușchi pe ea. Documentul îl învață pe Claude cum să fie un asistent bun și priceput la oameni, gata să ajute pe oricine vorbește cu el. Daniela Amodei, cofondatoare și președintele Anthropic (și sora directorului general), și-a amintit de o călătorie recentă în Sicilia, unde a dat peste o prăjitură care semăna teribil cu un maritozzo, o faimoasă delicatesă romană pentru micul dejun. Amodei, a cărei familie este italiană, iubește atât de mult maritozzi încât soțul ei i-a oferit odată o jucărie de pluș în formă de prăjitură cadou. Ea a încărcat o fotografie cu delicatesa umplută cu cremă către Claude, întrebând AI-ul dacă a identificat-o corect, și a inclus și o fotografie cu jucăria de la soțul ei. „Înțeleg!”, a răspuns Claude: „Încerci să-l găsești pe vărul pierdut de mult al acestei jucării de pluș!” Amodei a izbucnit în râs. A simțit sensibilitatea comică seacă și scoțiană a lui Askell. „Uneori, Claude are aceste mici momente de umor. Aproape că simți ceva din personalitatea Amandei acolo.”   

Traducere și adaptare: Bogdan Cojocaru