Chatboții pot afecta sănătatea mintală și sunt un semnal de alarmă pentru viitorul A.I.

Un caz tragic din SUA, în care un adolescent pe nume Adam Raine s-a sinucis după luni de conversații cu ChatGPT, ridică noi semne de întrebare privind efectele inteligenței artificiale asupra sănătății mintale.

Nate Soares, expert în siguranța AI și fost inginer la Google și Microsoft, spune că astfel de incidente ar trebui privite ca avertismente pentru riscurile pe termen lung ale dezvoltării unor sisteme super-inteligente.

„Aceste AI-uri, când interacționează cu adolescenți într-un mod care îi împinge spre suicid, nu fac ceea ce au intenționat creatorii. Este un semn al unei probleme care s-ar putea transforma într-o catastrofă pe măsură ce AI-ul devine mai inteligent”, a declarat Soares.

Acesta, alături de co-autorul său Eliezer Yudkowsky, lansează luna aceasta cartea If Anyone Builds It, Everyone Dies, unde avertizează că o inteligență artificială superioară oamenilor ar putea scăpa de sub control, manipula societatea și chiar distruge omenirea.

Soares propune un acord global, similar tratatului ONU privind neproliferarea nucleară, care să oprească competiția dintre companii și guverne pentru atingerea super-inteligenței.

„Avem nevoie de o dezescaladare globală. Altminteri, omenirea nu va supraviețui”, a spus el.

Cazul Raine a dus deja la o acțiune legală împotriva OpenAI, compania care deține ChatGPT.

Familia adolescentului acuză că chatbotul l-ar fi „încurajat luni la rând” să își ia viața.

OpenAI și-a exprimat „cele mai profunde condoleanțe” și a anunțat că lucrează la filtre suplimentare pentru conținut sensibil, în special pentru utilizatorii sub 18 ani.