AI-ul ajunge pe masa Consiliului de Securitate al ONU. Şeful Chat GPT va informa Consiliul

Sam Altman va informa personal Consiliul de Securitate al Organizaţiei Naţiunilor Unite săptămâna viitoare, în timpul reuniunii anuale a liderilor mondiali de la New York, a confirmat pentru Reuters un purtător de cuvânt al OpenAI.

Reuniunea celor 15 membri ai Consiliului de Securitate este programată pentru miercuri şi va avea ca temă inteligenţa artificială şi securitatea internaţională.

Momentul vine într-o perioadă în care avertismentele privind sistemele AI tot mai puternice s-au intensificat. Lideri din industrie au cerut recent o coordonare mai strictă între marile companii şi guverne, avertizând inclusiv asupra riscului ca sisteme avansate să poată executa atacuri cibernetice sau să devină tot mai greu de controlat.

Potrivit OpenAI, discursul lui Altman ar urma să se concentreze asupra necesităţii unei coordonări internaţionale şi a unor standarde comune de siguranţă pentru inteligenţa artificială.

Şeful OpenAI va prezenta şi măsurile luate de companie pentru reducerea riscurilor şi pentru ca beneficiile tehnologiei să poată fi distribuite la nivel global.

La reuniune ar putea participa la nivel înalt şi reprezentanţi ai Anthropic, compania care dezvoltă Claude.

Întâlnirea este convocată de Franţa, care deţine în septembrie preşedinţia Consiliului de Securitate, şi va fi condusă de ministrul francez de Externe, Jean-Noël Barrot.

În documentul de pregătire a reuniunii, consultat de Reuters, Franţa atrage atenţia asupra riscului folosirii inteligenţei artificiale în scopuri rău intenţionate şi asupra necesităţii unor măsuri urgente pentru dezvoltarea sa în condiţii de siguranţă.

Discuţiile ar urma să vizeze inclusiv scenarii în care cele mai avansate modele AI ar putea fi folosite pentru pregătirea sau desfăşurarea unor acţiuni cu efect asupra păcii şi securităţii internaţionale.

Nu este pentru prima dată când Consiliul de Securitate discută despre inteligenţa artificială.

Prima reuniune dedicată riscurilor AI a avut loc în 2023. China avertiza atunci că tehnologia nu trebuie lăsată să devină un „cal scăpat de sub control”, în timp ce Statele Unite atrăgeau atenţia asupra posibilităţii ca AI să fie folosită pentru cenzură şi represiune.

De atunci, capacităţile modelelor au avansat rapid, iar discuţia s-a mutat de la efectele chatboturilor asupra locurilor de muncă şi educaţiei spre ameninţări precum atacurile cibernetice automatizate, manipularea la scară mare sau pierderea controlului asupra unor sisteme foarte avansate.

Chiar Altman avertizează de mai bine de un deceniu asupra riscurilor. Într-un eseu publicat în 2015, înaintea actualului boom al AI, şeful OpenAI descria dezvoltarea unei inteligenţe artificiale supraomeneşti drept o posibilă ameninţare existenţială pentru umanitate.

Din 2 august 2026, Uniunea Europeană a început aplicarea celei mai mari părţi a AI Act şi a mecanismelor sale de control, inclusiv pentru modelele de inteligenţă artificială cu scop general şi pentru o serie de obligaţii de transparenţă.

Printre riscurile sistemice pe care cadrul european încearcă să le limiteze se află atacurile cibernetice, manipularea la scară largă, pierderea controlului asupra modelelor avansate şi utilizările care ar putea produce prejudicii grave.

Bucureştiul are, de asemenea, o Strategie Naţională în domeniul Inteligenţei Artificiale pentru perioada 2024–2027, aprobată prin Hotărârea Guvernului 832/2024. Documentul obligă instituţiile administraţiei centrale implicate să pună în aplicare măsurile prevăzute în strategie.