Soluții bazate pe inteligență artificială care previn hărțuirea minorilor atunci când sunt pe internet

Elementul de  noutate:

În comparație cu soluțiile de securitate existente pe piață, noul modul de control parental permite atât detectarea prădătorilor online, cât și a hărțuirii pe internet.
Modulul identifică agresorii sexuali prin depistarea atacurilor transmise în scris prin servicii de mesagerie online și a solicitărilor sau schimburilor de fotografii cu conținut nepotrivit. Mai mult, modulul îi semnalează părintelui atât conversații în care copilul este forțat să aibă un comportament nepotrivit, cât și cereri de întâlnire în afara locuinței sau de aflare a adresei de acasă venite din partea unor străini. Orice încercare de a obține numere de carduri, adrese, date personale sau parole va declanșa, de asemenea, o alertă către părinte. Componenta antihărțuire este capabilă să detecteze comportamentul sau limbajul ostil – inițiat de către copil sau îndreptat înspre el – menit să rănească emoțional o persoană, când agresiunea are loc în mod repetat și creează un dezechilibru de putere între cele două părți.
Modulul monitorizează constant mesajele și fotografiile trimise pe platforme precum WhatsApp, Facebook Messenger și Instagram, dar și pe alte aplicații populare.
Părintele primește prin e-mail, zilnic, săptămânal sau lunar, un raport cu activitatea online a copilului, unde i se semnalează activitățile cu un grad crescut de risc și potențial periculoase.

Descrierea inovației:

Studiile Bitdefender arată că doi din trei adolescenți au fost hărțuiți pe internet cel puțin o dată în ultimul an, jumătate au persoane necunoscute în lista de prieteni, iar unuia din douăzeci i s-au solicitat fotografii cu conținut sexual. Inovația a pornit de la o nevoie reală a persoanelor care au inițiat proiectul, părinți fiind, după ce au sesizat potențialele pericole la care se expun copiii. Ca urmare a rezultatelor unor studii de piață pentru testarea obiceiurilor de consum și verificarea comportamentului online, care au inclus copii și părinți, specialiștii de la Bitdefender au explorat apoi principalele semne ale hărțuirii, având discuții cu echipe de psihologi. Ei au validat informațiile cu echipele tehnice ca să vadă în ce măsură există posibilitatea tehnologică de a fi implementate într-un produs software. Întreg procesul a durat aproximativ un an și jumătate și a înglobat expertiza a circa 20 de angajați din domenii precum dezvoltare, testare, machine learning, analiză comportamentală, management și marketing de produs. Bugetul total alocat dezvoltării acestei inovații până la faza de produs a fost de peste 2 milioane de euro.
Lansat în luna octombrie 2018, modulul antihărțuire din soluția Bitdefender pentru control parental este disponibil pentru toți utilizatorii de Bitdefender BOX din țările vorbitoare de limbă engleză (Statele Unite ale Americii, Canada) și va fi inclus în viitor, ca pachet opțional, și în soluțiile Bitdefender Internet Security și Bitdefender Total Security.

Efectele inovației:

Modulul antihărțuire din soluția de control parental, dezvoltat integral de cercetători din România, răspunde unor nevoi fundamentale ale părinților: să știe că ai lor copii sunt în siguranță, că nu ajung accidental pe site-uri cu conținut nepotrivit, că nu petrec prea mult timp pe dispozitive, că nu sunt hărțuiți sau se regăsesc în situații conflictuale când navighează pe internet și, totodată, că nu pun în pericol integritatea locuinței și a celorlalți membri ai familiei.
După prima lună de la lansare, unu din șase utilizatori de Bitdefender BOX din Statele Unite ale Americii și Canada folosește soluția de control parental care include noul modul antihărțuire, timp în care algoritmii au analizat mii de conversații cu potențial de risc. Instrumentul urmărește să consolideze relația părinte-copil și nu se vrea a fi un instrument de invadare a vieții personale a minorului. Astfel, părintele nu are acces la conținutul conversațiilor, iar alertele pe care le primește ar trebui să îi apropie și să îi facă să discute despre subiectul respectiv. Mesajele primite de părinte sunt însoțite și de recomandări ale unor psihologi, specifice fiecărei situații semnalate.