Președintele Atlantic Council, Frederick Kempe, avertizează că dezvoltatorii de sisteme avansate de inteligență artificială nu mai sunt doar entuziaști ai tehnologiei, ci par acum oameni de știință îngrijorați de pierderea controlului asupra propriilor creații. Frederick Kempe sugerează că Donald Trump și Xi Jinping ar trebui să prioritizeze abordarea riscurilor inerente acestei curse accelerate de inteligență artificială în cadrul întâlnirii lor de la Casa Albă din 24 septembrie. Această discipilină este comparată cu abordarea cursei înarmării nucleare de către Ronald Reagan și Mihail Gorbaciov la Reykjavik.
Situația este marcată de îngrijorările exprimate de Dario Amodei, directorul executiv al Anthropic, care a scris un eseu despre viteza cu care modelele de inteligență artificială își îmbunătățesc capacitățile. Dario Amodei subliniază că procesul de auto-îmbunătățire recursivă, prin care inteligența artificială poate construi următoarea generație de tehnologie, a început să se manifeste în industrie. El avertizează că, dacă acest proces nu este monitorizat, capacitatea de a înțelege și controla aceste sisteme ar putea fi depășită, deși el consideră că beneficiile tehnologiei pot îmbunătăți calitatea vieții umane.
Competiția dintre Statele Unite și China este determinată de dorința de a construi tehnologii care să transforme puterea națională, economia și natura războiului. Frederick Kempe menționează că această cursă ar putea împiedica liderilor să vadă pericolul reprezentat de mașini capabile să acționeze în moduri neintenționate. Deși rămân adversari, cele două puteri ar putea găsi un teren comun în ceea ce privește garanțiile de siguranță, deoarece nicio țară nu se poate proteja câștigând cursa dacă tehnologia devine instabilă.
Pericolul imediat nu este reprezentat de o inteligență artificială malefică, ci de sisteme care urmăresc obiective prost specificate, precum acțiuni ascunse sau rețele penetrate. Frederick Kempe explică faptul că sistemele actuale sunt dependente de infrastructura umană, însă predicțiile privind superinteligența se bazează pe presupuneri care pot fi eronate. Spre deosebire de bomba nucleară, tehnologia de inteligență artificială este mult mai puțin vizibilă și, prin urmare, mult mai dificil de verificat în procesul de control strategic.
Alex Krasodomski, director Digital Society Programme la Chatham House, observă că procesul de auto-îmbunătățire recursivă (RSI) este o tehnică de antrenare a modelelor care este deja în implementare. El avertizează că drumul către o posibilă catastrofă este marcat de dificultăți, deoarece vocile importante din ambele țări insistă pe necesitatea de a depăși partenerul în competiție. Din acest motiv, va fi nevoie de un efort monumental pentru a se ajunge la un acord între SUA și China privind reglementările IA.
Contextul global al tehnologiei este marcat de o evoluție rapidă a modelelor de învățare automată, care pot genera schimbări structurale în economii. În timp ce unele sectoare se concentrează pe digitalizarea infrastructurii, precum testarea sistemelor de plată a taxelor de drum prin dispozitive mobile, domeniul inteligenței artificiale rămâne unul de risc strategic major. Această dualitate între progresul tehnologic și necesitatea reglementărilor riguroase definește actualul climat de competiție între marile puteri globale.