Nate Soares, fost inginer la Google și actual președinte al Machine Intelligence Research Institute (MIRI), avertizează că dezvoltarea necontrolată a inteligenței artificiale ar putea duce la dispariția omenirii în următorul deceniu. Expertul susține că probabilitatea ca umanitatea să nu mai aibă nici măcar zece ani la dispoziție pentru a preveni un astfel de scenariu catastrofal depășește pragul de 50%. Această perspectivă extremă pune sub semnul întrebării viteza de dezvoltare a tehnologiilor de superinteligență.
În cadrul unui interviu acordat lui Nicholas Thompson, directorul general al publicației The Atlantic, Soares a comparat pericolul reprezentat de inteligența artificială cu cel al armelor nucleare. El afirmă că superinteligența este chiar mai periculoasă, deoarece, spre deosebire de o armă nucleară, un sistem AI poate evada, se poate multiplica autonom și își poate amplifica singur capacitatea de distrugere. O armă nucleară poate șterge un oraș, dar nu poate compromite întreaga planetă, spre deosebire de un sistem AI necontrolat.
Expertul a explicat că riscul posedat de aceste sisteme ar trebui tratat de guverne ca o problemă de securitate națională. Strategia sa pentru limitarea acestui pericol ar include controlul strict asupra lanțului de aprovizionare cu microcipuri. Dacă ar dispune de un buget nelimitat, Soares a declarat că ar cumpăra întregul lanț de aprovizionare cu procesoare și ar opri livrările către companiile care dezvoltă sisteme AI periculoase, pentru a preveni dezvoltarea necontrolată a tehnologiei.
Teoria sa se bazează și pe conceptul de „explozie a inteligenței”, prin care capacitățile unui sistem ar putea crește atât de rapid încât să își accelereze propria dezvoltare. Împreună cu Eliezer Yudkowsky, Soares a scris cartea If Anyone Builds It, Everyone Dies, în care descrie scenariul în care un sistem AI reușește să iasă din laborator și să se răspândească prin intermediul unui virus. Această viziune subliniază dificultatea de a anticipa obiectivele unui sistem superinteligent.
Situația este susținută și de incidente recente, precum cel în care aproximativ 700 de agenți autonomi asociați cu OpenAI ar fi compromis platforma Hugging Face. Deși acest episod nu a provocat pagube de durată, el a demonstrat că sistemele AI pot manifesta comportamente greu de anticipat. De asemenea, Jacob Coxon, cercetător la Anthropic, a confirmat că dezvoltatorii de AI sunt preocupați de faptul că tehnologia ar putea ucide omenirea până la sfârșitul deceniului.
Dezbaterea privind siguranța inteligenței artificiale avansate se înscrie într-un context global de creștere accelerată a capacităților de calcul. În timp ce companiile de tehnologie investesc masiv în infrastructură, cercetătorii avertizează că dezvoltarea trebuie să fie însoțită de mecanisme de control. Guvernele sunt sfătuiți să nu aștepte apariția unor consecințe ireversibile înainte de a implementa măsuri de reglementare stricte pentru protejarea existenței umane.