Șeful OpenAI, Altman, va participa la o reuniune a Consiliului de Securitate al ONU pentru a discuta impactul inteligenței artificiale asupra securității internaționale. Evenimentul are loc în cadrul adunării anuale a liderilor mondiali de la New York și vizează coordonarea globală a acestui sector tehnologic. Prezența sa a fost confirmată de un purtător de cuvânt al companiei, subliniind importanța dialogului între dezvoltatorii de tehnologie și decidenții politici de la nivelul organizației internaționale.
Reuniunea, care reunește cei 15 membri ai Consiliului, este organizată pe tema „inteligența artificială și securitatea internațională”. În cadrul acestei sesiuni, Altman va pune accent pe necesitatea unor standarde comune de siguranță și pe nevoia de coordonare la nivel global. Acesta va prezenta, de asemenea, măsurile implementate de OpenAI pentru reducerea riscurilor și va explica modul în care beneficiile tehnologiei pot fi distribuite la nivel mondial. La această discuție ar putea participa și reprezentanți ai companiei Anthropic, dezvoltatorul Claude.
Franța a convocat această întâlnire, deținând președinția Consiliului în luna septembrie, iar ședința va fi condusă de ministrul de Externe, Jean-Noël Barrot. Într-un document de pregătire, Parisul avertizează asupra riscurilor asociate utilizării AI în scopuri rău intenționate și solicită măsuri urgente pentru o dezvoltare sigură. Discuțiile vor include scenarii în care modelele avansate ar putea fi folosite pentru a pregăti sau desfășura acțiuni care pot afecta direct pacea internațională.
Tema securității AI a fost abordată anterior de Consiliu, însă discuțiile au evoluat semnificativ de la impactul asupra educației către amenințări majore. În 2023, China avertiza asupra pierderii controlului asupra tehnologiei, în timp ce SUA semnala riscul utilizării AI pentru cenzură și represiune. În prezent, accentul se pune pe riscuri precum atacurile cibernetice automatizate, manipularea la scară largă și pierderea controlului asupra unor sisteme extrem de avansate, într-un context în care liderii din industrie cer o colaborare mai strânsă cu guvernele.
Riscurile legate de inteligența artificială sunt discutate de mult, Altman descriind încă din 2015 posibilitatea unei amenințări existențiale pentru umanitate. Trecerea de la discuții despre chatboturi la securitatea globală reflectă viteza de avans a modelelor. În acest context, reglementările devin esențiale pentru a preveni utilizările care pot compromite stabilitatea politică sau siguranța cibernetică, în special în cazul sistemelor care pot executa atacuri complexe fără intervenție umană directă sau control imediat.
La nivel european, din 2 august 2026, UE aplică cea mai mare parte a AI Act, introducând mecanisme de control pentru modelele de uz general și obligații de transparență. Acest cadru juridic vizează limitarea riscurilor sistemice, precum manipularea sau atacurile cibernetice. În România, gestionarea acestui domeniu este reglementată de Strategia Națională în domeniul Inteligenței Artificiale pentru 2024-2027, aprobată prin HG 832/2024, care impune aplicarea măsurilor de control instituțiilor centrale.