Discuțiile privind siguranța inteligenței artificiale au generat recent afirmații alarmiste, de la posibilitatea unei catastrofe globale la amenințări asupra infrastructurii internetului. În timp ce unii experți avertizează asupra riscurilor, alții consideră aceste scenarii lipsite de o bază științifică solidă. Tensiunea este accentuată de divergențele dintre liderii companiilor de tehnologie și cercetătorii care analizează impactul pe termen lung al acestei tehnologii asupra umanității.
Dario Amodei, director executiv al Anthropic, a avertizat în septembrie 2026 despre posibilitatea unei rețele botnet persistente, care ar putea cauza pagube de sute de miliarde de dolari. Gary Marcus, profesor emerit la Universitatea din New York, a refuzat însă această viziune, numind absurd ideea că întregul internet este vulnerabil. Marcus a subliniat că o evaluare a Institutului de Securitate a Inteligenței Artificiale din Marea Britanie indică faptul că Mythos, un model de la Anthropic, ar putea compromite doar sistele mici și slab apărate.
O altă preocupare majoră vizează probabilitatea de dezastru, cunoscută sub numele de p (doom), care se referă la pierderea controlului asupra AI. Evan Hubinger, responsabil științific la Anthropic, a estimat că șansele pentru un astfel de scenariu sunt de peste 10% în deceniul următor. Totuși, Heidy Khlaaf de la AI Now Institute a criticat aceste cifre, afirmând că sunt neștiințifice deoarece nu pot fi falsificabile sau verificate, lipsind exemple concrete despre cum ar putea o superinteligență să provoace un dezastru.
Riscurile sunt legate și de impactul asupra securității globale, inclusiv de posibilitatea ca AI să fie utilizată în scopuri periculoase. Des Browne, fost secretar al apărării din Marea Britanie, a comparat riscurile cu amenințările nucleare, în timp ce Toby Ord de la Universitatea Oxford a avertizat că, odată ce sistemele depășesc capacitatea umană, întoarcerea înapoi este aproape imposibilă. Pe de altă parte, corporația Rand susține că sistemele de comandă și control actuale protejează împotriva utilizării AI în conflicte nucleare.
În acest context, există incertitudine privind momentul apariției unei inteligențe artificiale care să poată cauza daune reale. Jack Clark a sugerat că momentul în care AI ar putea începe să facă lucruri periculoase ar putea fi peste aproximativ 20 de ani, în timp ce Sam Altman de la OpenAI estimează că acest lucru ar putea dura până în 2035. Proiectul AI Futures prevede însă că o astfel de evoluție nu va apărea înainte de decembrie 2028, evidențiind discrepanțele dintre prognozele experților.
Evoluția tehnologiei de tip AI este un subiect de interes global, fiind monitorizată constant prin studii de caz și evaluări de risc. În timp ce unele organizații, precum Anthropic, au identificat deja utilizări ale modelelor lor care ar putea sprijini dezvoltarea armelor biologice, alte surse subliniază că majoritatea scenariilor de catastrofă rămân în sfera ipotezelor teoretice. Discuțiile rămân deschise, de la riscuri cibernetice ce pot manipula deciziile politice, până la posibilitatea unei schimbări radicale în infrastructura digitală globală.