Sam Altman a intervenit la o reuniune de nivel înalt a Consiliului de Securitate al ONU, convocată de Franța, pentru a avertiza asupra riscurilor asociate cu inteligența artificială. În cadrul discuțiilor, liderul OpenAI a subliniat necesitatea ca dezvoltarea tehnologiei să rămână sub controlul uman și a pledat pentru o cooperare internațională strânsă. Altman a argumentat că industria nu trebuie să accepte riscuri tehnologice excesive doar pentru că beneficiile sunt prea mari pentru a încetini procesul de inovare.
Unul dintre principalele pericole identificate de Altman este pierderea controlului uman asupra tehnologiei pe măsură ce aceasta avansează. El a susținut că tehnicile de siguranță și de aliniere trebuie să evolueze cel puțin la fel de rapid ca capacitățile modelelor de AI. În plus, șeful OpenAI a avertizat asupra riscului reprezentat de concentrarea excesivă a puterii, insistând că deciziile fundamentale nu pot fi luate exclusiv în laboratoarele din San Francisco, ci prin procese democratice.
Pentru a asigura o guvernare responsabilă, Altman a cerut ca deciziile privind inteligența artificială să fie stabilite de guverne care răspund în fața cetățenilor. El a propus un model de cooperare internațională, amintind de momentele istorice în care statele aflate în competiție au reușit să colaboreze pentru binele colectiv în fața unor tehnologii noi. OpenAI urmărește o cale de mijloc, evitând atât optimismul orb, cât și fatalismul, punând oamenii în centrul procesului decizional.
Alte lideri au susținut aceste avertismente, precum Dario Amodei, director executiv al Anthropic, care a declarat că AI poate reprezenta un risc pentru umanitate dacă este gestionată necorespunzător. Amodei a solicitat Consiliului de Securitate măsuri concrete, inclusiv interzicerea utilizării AI pentru fabricarea armelor biologice. Totodată, Yoshua Bengio a avertizat că pericolele sunt reale și iminente, subliniind că amenințările generate de această tehnologie nu respectă granițele naționale.
Reuniunea a fost condusă de ministrul francez de Externe, Jean-Noël Barrot, în contextul președinției franceze asupra Consiliului de Securitate. Discuțiile au vizat riscurile atacurilor cibernetice autonome și posibilitatea ca oamenii să piardă controlul asupra modelelor de AI avansate. Această intervenție a avut loc într-un moment de tensiune politică, în care lideri precum Donald Trump au exprimat poziții opuse față de un cadru global de reglementare a inteligenței artificiale.
În prezent, guvernele din întreaga lume se confruntă cu provocarea de a construi mecanisme de reglementare pentru o tehnologie care evoluează mult mai rapid decât procesele legislative tradiționale. Această cursă între inovație și reglementare pune sub presiune stabilitatea politică și securitatea internațională, deoarece lipsa unor standarde globale poate duce la o fragmentare a controlului asupra sistemelor de inteligență artificială de înaltă performanță.