O echipă de cercetători români a creat un model de limbaj – large language model - dedicat limbii române, ce poate fi folosit pentru dezvoltarea unor unelte și platforme AI

O echipă de cercetători români a creat un model de limbaj (LLM – „large language model”) dedicat limbii române, ce poate fi folosit pentru dezvoltarea unor unelte și platforme AI și care va putea fi accesat și folosit de oricine dorește să construiască instrumente bazate pe inteligența artificială. Proiectul este inițiat și derulat de către Politehnica București, Universitatea din București și Institutul de Logica și Știința Datelor, cu sprijinul BRD Groupe Société Générale, arată un comunicat transmis de reprezentanții organizațiilor.

„Câteva dintre exemplele de utilizare ale modelului românesc sunt: căutarea de informații în baza de cunoștințe a unei organizații, cu ghiduri și proceduri de lucru, sau roboți conversaționali pentru clienții companiilor sau ai instituțiilor care să îi ghideze în parcurgerea pașilor necesari pentru utilizarea unui produs sau serviciu. În ambele cazuri, angajații și/sau clienții economisesc timp în accesarea informației, beneficiind în multe situații și de îmbunătățirea calității acesteia”, a spus Alin Ștefănescu, directorul Departamentului de Informatică din cadrul Universității din București și vicepreședintele Institutului de Logică și Știința Datelor.

Modelul românesc de LLM este adaptarea unui LLM public dezvoltat în principal pentru limba engleză, ce a fost expus la câteva milioane de documente în limba română, pentru a înțelege mai bine semnificația cuvintelor. Acest lucru e esențial pentru perfomanța unor astfel de modele în situații unde exprimarea cerinței sau a întrebării introduse de utilizator, cât și a răspunsului trebuie să fie în limba română, arată sursa citată anterior. Începând din a doua parte a anului 2023, la dezvoltarea și instruirea acestui LLM a lucrat o echipă de cercetători de la Politehnica București, Universitatea din București și Institutul de Logica și Știința Datelor.

„Sperăm ca lansarea acestui model să fie doar începutul unui efort de lungă durată din care să rezulte LLM-uri mai bune pentru limba română. Deja am descoperit o metodă pe care vrem să o aplicăm altor modele lansate recent (Llama-3 și Mistral) și care au performanțe în general mai bune ca cel de la care am pornit (Llama-2). Totuși, pentru a avea modele performante pentru limba română avem nevoie de două tipuri de resurse: colecții de date mari și curatoriate, de calitate bună, precum și resurse hardware (în special, GPU-uri pentru antrenarea modelelor). Sperăm ca atât entitățile private, cât și cele publice să înțeleagă importanța dezvoltării modelelor mari de limbaj și multimodale (text-imagini) pentru limba română. Pe toți îi așteptăm să ni se alăture în cadrul inițiativei OpenLLM-Ro și a proiectelor de cercetare care o vor sprijini”, a spus Traian Rebedea, conferențiar la POLITEHNICA București și cercetător principal la NVIDIA, unul dintre coordonatorii tehnici ai inițiativei OpenLLM-Ro.

Odată cu publicarea acestui LLM, inițiatorii proiectului lansează și comunitatea OpenLLM-Ro, care își propune să-i aducă împreună pe toți cei care vor să contribuie în diverse forme la dezvoltarea tehnologiilor AI pentru limba română.

„Pentru ca mediul economic și/sau instituțional din România să poată folosi această nouă tehnologie (…) este nevoie de modele specializate care să fi întâlnit o mulțime de conversații și documente în limba română. Motivul este simplu: pentru a ne putea oferi informațiile de care avem nevoie. În BRD lucrăm în mod constant la soluții care să ne îmbunătățească procesele de lucru, folosind cele mai noi tehnologii care pot aduce valoare adăugată în primul rând clienților noștri. Însă înțelegem totodată că nevoile noastre sunt comune cu ale multor altor actori instituționali  (…). Implicându-ne în peisajul extrem de animat al acesteia, putem ajuta ca cele mai noi tehnologii să aibă un impact pozitiv în societatea românească aproape în același ritm cu evoluțiile din domeniu la nivel internațional”, a spus Horia Velicu, Head of Innovation Lab în cadrul BRD Groupe Société Générale.