Liderii unor companii de tehnologie de vârf, precum Anthropic și OpenAI, analizează în cadrul unor discuții private scenarii în care un incident grav provocat de inteligența artificială ar putea genera perturbări masive în societate. Reprezentanții industriei se tem că un astfel de eveniment catastrofal ar putea avea loc în intervalul de șase până la 12 luni de acum. Un asemenea incident ar putea schimba radical modul în care autoritățile reglementează această tehnologie în viitor.
Printre scenariile de risc evaluate se numără un atac cibernetic de amploare, capabil să întrerupă accesul la servicii esențiale precum internetul, electricitatea sau apa potabilă. Un alt scenariu plauzibil implică un grup necontrolat de agenți autonomi de inteligență artificială care ar putea cauza daune în timpul unor teste interne. Există, de asemenea, posibilitatea ca un atacator să exploateze modelele existente într-un mod neașteptat, provocând o criză de încredere în tehnologie.
Pentru a gestiona aceste riscuri, OpenAI a confirmat organizarea unor exerciții interne de pregătire pentru situații de criză. Aceste simulări implică activitatea unor echipe roșii, grupuri specializate care au rolul de a simula atacuri și scenarii nefavorabile pentru a identifica vulnerabilitățile sistemelor. Reprezentanții companiei subliniază că aceste exerciții nu presupun inevitabilitatea unui dezastru, ci au scopul de a asigura pregătirea pentru o varietate de situații de urgență.
Conducătorii sectorului, inclusiv Sam Altman de la OpenAI și Dario Amodei de la Anthropic, ar putea fi supuși unei presiuni politice și publice intense în urma unui incident. De asemenea, președintele american Donald Trump este menționat ca fiind criticat de susținătorii unei reglementări mai stricte. O preocupare majoră vizează reacția Congresului Statelor Unite și adoptarea unor măsuri legislative rapide, care ar putea limita dezvoltarea tehnologiei în urma unei crize.
Riscurile sunt deja vizibile prin atacurile cibernetice asistate de AI, precum compromiterea sistemelor a două bănci din Coreea de Sud. În acel caz, un hacker din China ar fi utilizat instrumente bazate pe modele precum DeepSeek și Claude Code pentru a fura datele a zeci de mii de clienți. Această evoluție demonstrează dificultatea de a combate atacurile pe măsură ce instrumentele de inteligență artificială devin tot mai accesibile pentru utilizatori.
Dependența economiei globale de infrastructura necesară pentru funcționarea inteligenței artificiale complică deciziile politice de reglementare. O încetinire bruscă a sectorului, provocată de restricții sau de o criză majoră, ar putea afecta investițiile și activitatea economică globală. Autoritățile se confruntă cu provocarea de a găsi un echilibru între reducerea riscurilor tehnologice și evitarea unor perturbări economice majore cauzate de suspendarea utilizării sistemelor AI.