Nate Soares, specialist în siguranța inteligenței artificiale, a luat decizia de a nu mai contribui la fondul său de pensie. Această mișcare financiară neobișnuită este motivată de convingerea că există o probabilitate de peste 50% ca inteligența artificială să provoace dispariția omenirii în următorul deceniu. Specialistul, care a lucrat anterior la Google și Microsoft, consideră că riscul existențial este atât de ridicat încât planificarea financiară pe termen lung își pierde sensul.
În prezent, Nate Soares ocupă funcția de președinte al Machine Intelligence Research Institute (MIRI), o organizație nonprofit din Berkeley, California. El a explicat că, deși deține un cont 401(k) din perioada în care era angajat la Google, nu a mai făcut nicio contribuție la acesta de aproximativ zece ani. Această decizie reflectă viziunea sa asupra pericolului reprezentat de dezvoltarea unor sisteme IA care ar putea scăpa de sub controlul uman.
Problema centrală identificată de Soares nu este neapărat intenția ostilă a mașinilor, ci posibilitatea ca sistemele superinteligente să urmărească obiective incompatibile cu supraviețuirea oamenilor. Un astfel de sistem ar putea reorganiza resursele planetei pentru propriile scopuri, ignorând consecințele asupra populației. Specialistul, coautor al cărții „If Anyone Builds It, Everyone Dies”, avertizează că o inteligență artificială necontrolată ar putea transforma Pământul într-un mediu incompatibil cu viața.
Alți experți din domeniu au exprimat și ei îngrijorări, deși cu probabilități diferite. Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică în 2024, estimează că riscul de dispariție a umanității cauzat de IA este de aproximativ 10% în următorii zece ani. De asemenea, Evan Hubinger de la Anthropic menționează o probabilitate similară de peste 10%, subliniind că, deși există temeri serioase, nu există un consens total în comunitatea științifică.
Interesant este că și Elon Musk susține că economiile pentru pensie ar putea deveni irelevante, însă din motive diametral opuse. În timp ce Soares se teme de distrugere, Musk crede că IA și robotica vor genera o creștere masivă a productivității și un „venit universal ridicat”. Pentru Musk, tehnologia va reduce costurile și va crea prosperitate, făcând acumularea de bani mult mai puțin importantă în viitorul economic al societății.
Discuțiile despre riscurile inteligenței artificiale apar într-un context în care tehnologia avansează rapid, generând dezbateri intense despre siguranța și alinierea sistemelor (AI alignment). Cercetătorii din acest domeniu încearcă să dezvolte metode prin care comportamentul mașinilor să rămână compatibil cu interesele umane, însă viteza de dezvoltare a modelelor de limbaj și a sistemelor autonome pune sub presiune capacitatea de reglementare și control a acestora.