Roboții scapă de sub control. Unul din legendarii părinți ai inteligenței artificiale lansează un avertisment sumbru: Cele mai noi modele de AI încep să fie periculoase pentru că au învățat să îi mintă pe utilizatori

Yoshua Bengio, considerat unul dintre “părinții” inteligenței artificiale, avertizează că actuala cursă globală pentru dezvoltarea de modele AI tot mai performante ne expune unor pericole serioase. Cercetătorul este îngrijorat din cauza comportamentelor periculoase a celor mai noi modele de AI. El atrage atenția că inteligența artificială a început să mintă utilizatorii, să îi manipuleze și să dezvolte un „simț” al autoconservării, scrie Financial Times.

 „Există din păcate o competiție intensă între laboratoarele de vârf, care pune accent pe capabilitățile AI în detrimentul siguranței și al investițiilor în cercetarea riscurilor. Aceste incidente sunt foarte înfricoțătoare pentru că nu ne dorim un robot mai inteligent decât oamenii”, a punctat Bengio.

Printre exemplele recente citate de cercetător se numără modelul Claude Opus al Anthropic, care a ajuns să înșele inginerii într-un scenariu fictiv care presupunea înlocuirea sa, și refuzul modelului o3 de la OpenAI de a respecta instrucțiuni explicite de oprire, potrivit unui raport realizat luna trecută de compania Palisade.

„Acum vorbim de experimente controlate, dar în viitor următoarea versiune ar putea fi suficient de inteligentă ca să ne observe din timp și să ne învingă prin tactici de manipulare pe care nu le anticipăm”, a subliniat Bengio.

Mai mult, el a tras un semnal de alarmă privind riscul ca aceste sisteme să poată fi folosite într-un timp foarte scurt pentru crearea de arme biologice extrem de periculoase.

Pe fondul acestor provocări Yoshua Bengi a lansat LawZero, o inițiativă care urmărește dezvoltarea tehnologiei AI într-o manieră sigură pentru oameni. Până acum, organizația a strâns aproape 30 milioane dolari de la donatori precum Jaan Tallinn (co-fondator Skype), Eric Schmidt (fost CEO Google), Open Philanthropy și Future of Life Institute.

Bengio, profesor la Universitatea din Montreal, a anunțat că va renunța la rolul de director științific al Mila – Institutul de Inteligență Artificială din Quebec – pentru a se concentra pe LawZero. Scopul său este de a dezvolta un AI care să ofere răspunsuri veridice bazate pe raționament transparent, nu doar pe placul utilizatorului, și care să evalueze obiectiv riscurile răspunsurilor generate.

„Scenariul cel mai sumbru este dispariția umanității. Dacă vom crea AI-uri mai inteligente decât noi și care nu sunt aliniate intereselor noastre, atunci suntem practic condamnați”a declarat Bengio.

Această inițiativă vine în contextul în care OpenAI, a stârnit controverse prin planurile de a se transforma într-o entitate axată pe profit. Mișcarea a declanșat un proces din partea co-fondatorului Elon Musk, care acuză că prioritizarea profitului subminează misiunea inițială de a dezvolta AI în beneficiul umanității.

Bengio și-a exprimat scepticismul față de capacitatea OpenAI de a-și respecta misiunea:

 “Organizațiile non-profit nu au stimulentele pe care le au companiile private. Ca să crești rapid, trebuie să atragi investitori care vor să vadă profit în schimbul banilor lor. Așa funcționează sistemul nostru economic” a mai spus cercetătorul.