Inteligența artificială este tot mai des comparată cu armele nucleare de către lideri precum Elon Musk sau Sam Altman, însă această analogie prezintă limite critice. În timp ce materialele necesare unei bombe atomice pot fi monitorizate și contabilizate strict, modelele de IA pot fi copiate, transferate și adaptate rapid. Dezvoltarea acestor tehnologii este dominată de companii private, spre deosebire de arsenalul nuclear, care rămâne sub autoritatea strictă a statelor.
Mulți actori influenți propun un cadru de reglementare similar cu cel al Agenției Internaționale pentru Energie Atomică. Sam Altman, CEO-ul OpenAI, face frecvent referire la acest organism, iar directorul CIA, John Ratcliffe, susține ideea unei supravegheri internaționale. Totuși, experții subliniază că succesul regimului nuclear poate crea o imagine falsă de siguranță, ascunzând diferențele esențiale dintre controlul fizic al izotopilor și gestionarea software-ului.
O problemă majoră în guvernarea IA este natura „turnătorie” a modelelor, unde ponderile numerice pot fi separate de infrastructura de calcul. Spre deosebire de uraniu sau plutoniu, care necesită instalații masive și vizibile din satelit, un model de IA poate fi descărcat și rulat pe diverse locații. Această capacitate de replicare face ca orice regim de neproliferare să fie extrem de dificil de implementat și verificat.
În plus, controlul lanțului de aprovizionare prin limitarea accesului la cipuri avansate nu garantează siguranța pe termen lung. Eficiența algoritmilor crește constant, ceea ce înseamnă că resursele de calcul necesare pot scădea rapid, făcând tehnologia mai accesibilă. De asemenea, modelele pot fi utilizate în domenii extrem de variate, de la medicină la operațiuni militare, spre deosebire de tehnologia nucleară, care are utilizări mult mai bine delimitate.
Verificarea respectării unor eventuale tratate internaționale ar necesita măsuri de transparență pe care guvernele le-ar putea considera intruzive. În domeniul nuclear, obiectele de control sunt clare, precum rachetele sau bombardierele, însă în IA, laboratoarele private se dezvoltă într-un ritm mult mai alert. Fără un moment de criză comparabil cu Hiroshima, presiunea politică pentru un regim de supraveghere robust rămâne, în prezent, insuficientă.
Istoria controlului armamentelor arată că regimul de neproliferare a fost adesea incomplet, bazându-se pe cooperarea voluntară a statelor. În trecut, crize precum cea a rachetelor din Cuba au fost evitate în mare parte datorită norocului sau deciziilor individuale, nu doar prin instituții. Această incertitudine subliniază faptul că sistemele de guvernare pentru inteligența artificială vor trebui să fie complet diferite de modelele tradiționale de securitate globală.