Directorul executiv al OpenAI, Sam Altman, a avertizat miercuri, în cadrul unei reuniuni a Consiliului de Securitate al ONU, că ritmul accelerat al dezvoltării inteligenței artificiale impune o grijă extremă. În cadrul sesiunii de nivel înalt, convocată de Franța, Altman a subliniat necesitatea de a menține controlul asupra celor mai avansate modele de AI. Acesta a pledat pentru stabilirea unor reguli prin procese democratice și pentru o cooperare internațională solidă.
Sam Altman a evidențiat riscul pierderii controlului uman asupra tehnologiei pe măsură ce capacitățile modelelor cresc. El a argumentat că tehnicile de aliniere și de siguranță trebuie să evolueze în același ritm cu progresul tehnologic. Un alt punct critic ridicat de liderul OpenAI este concentrarea excesivă a puterii. El a declarat că deciziile importante nu pot fi luate exclusiv în laboratoarele din San Francisco, ci trebuie stabilite de guverne responsabile.
În cadrul intervenției sale, Sam Altman a menționat că industria nu trebuie să accepte un risc tehnologic prea mare doar pentru că beneficiile sunt semnificative. El a propus trei principii fundamentale: menținerea oamenilor în centrul procesului decizional, orientarea progresului economic spre oameni și utilizarea AI pentru a extinde capacitatea individuală. Altman vede potențialul tehnologiei de a declanșa o nouă „Renaștere”, evitând însă atât optimismul orb, cât și fatalismul.
Dario Amodei, director executiv al Anthropic, a susținut avertismentele, afirmând că AI ar putea reprezenta un risc pentru umanitate dacă este gestionată necorespunzător. Acesta a solicitat Consiliului de Securitate măsuri concrete, precum interzicerea utilizării AI pentru fabricarea armelor biologice. Amodei a subliniat că nicio țară sau companie nu poate gestiona singură aceste riscuri, cerând astfel o strategie internațională coordonată și sisteme de evaluare care să țină pasul cu tehnologia.
Reuniunea a fost prezidată de ministrul francez de Externe, Jean-Noël Barrot, abordând riscurile legate de atacurile cibernetice autonome. Yoshua Bengio, copreședinte al panelului științific al ONU pentru AI, a confirmat că pericolele sunt reale și iminente, fără a respecta granițele naționale. Discuțiile au evidențiat tensiunea dintre necesitatea reglementării și viteza de dezvoltare a modelelor, într-un context în care liderii politici au poziții divergente privind limitarea tehnologiei.
Guvernele din întreaga lume se confruntă cu provocarea de a construi cadre legislative pentru o tehnologie care evoluează mult mai rapid decât mecanismele tradiționale de reglementare. Această încercare de guvernare are loc într-un peisaj geopolitic complex, unde diferențele de abordare între state pot influența modul în care riscurile de securitate și impactul economic al inteligenței artificiale sunt gestionate la nivel global.