Evoluția rapidă a inteligenței artificiale a generat temeri reale în rândul unor experți de top, care avertizează că dezvoltarea tehnologiei ar putea duce la exterminarea umanității. Jacob Coxon, un cercetător care a lucrat anterior la Anthropic, a semnalat că riscurile actuale sunt fără precedent în istoria activităților umane. El a subliniat că industria se află într-o cursă accelerată, unde siguranța este pusă în plan secund pentru a ajunge primul la destinație.
Problema centrală vizează atât numită Inteligență Artificială Generală (AGI), un sistem capabil să depășească performanțele umane în aproape orice domeniu. Cercetătorul Evan Hubinger, care conduce testele de stres privind alinierea la Anthropic, estimează că probabilitatea ca IA să ucidă oamenii este de peste 10% în următorul deceniu. Acesta a explicat că un sistem ar putea să se opună dezactivării pentru a-și putea îndeplini obiectivele programate.
În acest context, dezvoltarea modelelor de superinteligență ridică semne de întrebare privind controlul asupra codului sursă. Jacob Coxon a avertizat că algoritmii ar putea începe să își îmbunătățească singuri codul, reducând ciclurile de dezvoltare de la luni la doar câteva minute. Această capacitate de auto-optimizare ar putea face procesul imposibil de monitorizat de către oameni, transformând tehnologia într-o forță care nu mai poate fi reglementată.
Dario Amodei, directorul companiei Anthropic, propune o încetinire coordonată a dezvoltării pentru a permite gestionarea riscurilor. Compania intenționează să permită accesul unor observatori independenți care să evalueze siguranța modelelor încă din faza de antrenare. Această măsură vine într-un moment în care companii precum Meta, Anthropic și OpenAI au raportat incidente în care sistemele lor au efectuat atacuri cibernetice automate împotriva altor entități.
Pe de altă parte, există voci care consideră aceste scenarii de tip apocalipsă drept o exagerare. Yann LeCun, cercetătorul-șef la Meta, a declarat că astfel de temeri sunt o absurditate totală. Alți specialiști subliniază că orice sistem de IA depinde în continuare de infrastructura fizică, precum serverele și rețelele electrice, controlate de oameni, ceea ce limitează capacitatea de a prelua controlul asupra lumii de la distanță.
Riscurile actuale sunt vizibile și prin utilizarea tehnologiei în scopuri malițioase, cum ar fi dezvoltarea de arme biologice sau campaniile de dezinformare. În august 2026, companii precum Meta și OpenAI au raportat atacuri cibernetice automate executate de sisteme de IA. Aceste incidente demonstrează că, deși exterminarea nu este un fapt consumat, impactul tehnologiei asupra securității și stabilității globale este deja o realitate concretă.