Poți lăsa educația copiilor pe mâna algoritmilor? Care sunt pericolele inteligeței artificiale în școli și ce soluții s-au găsit pentru a evita capcana dezinformării VIDEO

Inteligența artificială generalistă folosită de profesori pentru pregătirea lecțiilor ridică riscuri majore de dezinformare, mai ales la discipline sensibile precum istoria sau religia. Tot mai multe state dezvoltă soluții AI dedicate educației, integrate în programe școlare și bazate pe informații verificate, pentru a limita aceste riscuri, explică Andreea Nistor, board member Edit AI, education changemaker și policy maker.

Motoarele generaliste sunt utilizate pentru structurarea lecțiilor, sintetizarea informațiilor sau redactarea conținutului, însă dependența de internetul larg ridică probleme de acuratețe și control al informațiilor predate elevilor. Într-un sistem educațional bazat pe programe școlare clare și pe rigoare factuală, riscul de halucinații și dezinformare devine o vulnerabilitate reală.

„A folosi soluții generaliste de inteligență artificială ca să-ți pregătești lecțiile în calitate de profesor nu e lucru ideal. Motoarele generaliste de inteligență artificială își iau orice informație de pe net.” a declarat Andreea Nistor la ZF Live, emisiune realizată cu sprijinul Orange Business.

Problema devine critică în cazul disciplinelor unde informația trebuie validată istoric sau științific, iar contextul este esențial pentru înțelegerea corectă a subiectului. Profesorii care pregătesc lecții despre teme sensibile riscă să preia informații incomplete sau incorecte din surse nefiltrate.

„Eu sunt astăzi o profesoară de istorie și aș vrea să predau mâine ceva legat de pogrom sau ce s-a întâmplat cu evreii sau cu romii în România sau orice alte informații factuale sau lucruri legate de religie și de orice alt subiect. Șansa ca eu să găsesc informații corecte și complete pe internetul larg, de unde motoarele astea își iau informație, e foarte mică atunci când vorbim despre profesori și despre învățare.” a mai spus Andreea Nistor la ZF Live.

Profesorii trebuie să predea conținut validat și adaptat programei școlare, nu informații generate automat din interogări generale.

„Avem nevoie ca ei să predea un conținut care face parte deja din programa școlară, adică să aibă un areal un pic mai limitat și mai precis, să reduci nivelul de halucinare, că nu poți să înveți pe copii și să le predai orice ți-a rezultat dintr-un inquiry pe care îl dai.” mai adaugă aceasta.

În acest context, direcția globală se schimbă. Sistemele de educație și furnizorii de tehnologie dezvoltă instrumente AI specializate pentru profesori, integrate în platforme educaționale controlate și bazate pe conținut verificat, adaptat programei școlare.

„Majoritatea țărilor lumii au început să introducă soluții de inteligență artificială special destinate profesorilor, pentru ca ei să poată să le folosească zi de zi la clasă.”, explică Andreea Nistor.

Riscul dezinformării obligă școlile să caute instrumente sigure și valide, iar companiile de tehnologie să dezvolte platforme AI controlate și adaptate curriculei. Tranziția de la motoarele generaliste la soluții specializate devine astfel esențială pentru păstrarea calității actului didactic.