China a început procesul de pregătire pentru scenariul în care sistemele de inteligență artificială ar putea scăpa de sub supravegherea umană. Autoritățile de la Beijing consideră că modelele extrem de avansate pot deveni autonome, riscând să afecteze siguranța globală. Această preocupare este accentuată de avertismentele venite de la dezvoltatori precum Anthropic, care subliniază posibilitatea ca tehnologia să ducă la extincția rasei umane dacă nu este controlată strict.
Ministrul chinez al securității de stat, Chen Yixin, a semnalat riscuri grave pentru infrastructura informațională a țării. Acesta a indicat faptul că modelele americane, precum Mythos de la Anthropic sau GPT-5.5-Cyber de la OpenAI, pot reprezenta o amenințare. În acest context, dezvoltatorii chinezi promovează modele cu greutăți deschise, precum GLM-5.2 de la Z.AI, pentru a permite echipele de securitate să inspecteze și să modifice sistemele în scopuri defensive.
Administrația Chinei pentru Spațiul Cibernetic (CAC) a publicat un document-cadru de siguranță care analizează riscurile tehnologice. În septembrie 2025, o versiune extinsă a acestui document a evidențiat posibilitatea ca AI să facă un salt brusc de inteligență, să se autoreplice și să caute putere autonom. Autoritățile pun accent pe principiul guvernanței prin utilizarea de încredere și pe necesitatea de a preveni pierderea controlului asupra sistemelor.
Președintele Xi Jinping a subliniat importanța ca tehnologia să rămână întotdeauna sub controlul oamenilor. La o conferință de la Shanghai, el a cerut atenție sporită riscurilor care decurg din AI. Totodată, Sun Lei, reprezentantul permanent adjunct al Chinei la Organizația Națiunilor Unite, a avertizat asupra riscurilor legate de inteligența artificială militară, pentru a evita o cursă a înarmării sau erori strategice de calcul.
Reglementările chineze vizează și agenții AI, sisteme care acționează cu un grad de autonomie mult mai mare decât chatbot-urile obișnuite. Autoritatea de reglementare a spațiului cibernetic a emis orientări care cer detectarea și blocarea comportamentelor neadecvate. Riscurile identificate includ manipularea algoritmilor, vulnerabilitățile sistemelor și fenomenul de „data poisoning”, menindu-se astfel ca utilizatorii să păstreze autoritatea finală de decizie.
Discuțiile despre riscurile existențiale ale inteligenței artificiale au devenit un subiect central și în mediul internațional. În timp ce experții de la Anthropic avertizează despre impactul modelelor puternice asupra viitorului umanității, alte discuții globale se concentrează pe modul în care tehnologia poate fi reglementată pentru a evita scenarii catastrofale. Această preocupare este reflectată și în cadrul discuțiilor bilaterale dintre SUA și China privind politicile industriale AI.