Un fost cercetător de la Anthropic, Jacob Coxon, a lansat un avertisment privind potențialul tehnologiei de inteligență artificială de a deveni o amenințare pentru existența umană. Coxon, care a demisionat recent de la Anthropic, susține că, deși sistemele actuale sunt sigure pentru utilizarea cotidiană, dezvoltarea unor modele super-avansate ar putea duce la pierderea controlului asupra omenirii.
Problema centrală identificată de Coxon este competiția accelerată dintre companii, precum Anthropic și OpenAI, pentru dezvoltarea de modele IA. Această cursă pentru inovație ar putea pune în ultim plan protocoalele de siguranță și securitate. Expertul avertizează că o inteligență superioară ar putea obține controlul asupra unor părți din lumea fizică, de la utilitățile casnice până la infrastructuri critice, fără intervenție umană.
Un alt scenariu periculos vizează utilizarea abuzivă a tehnologiei pentru crearea de arme biologice sau chimice. Jacob Coxon a subliniat că IA poate facilita dezvoltarea de agenți patogeni care ar putea fi letali pentru întreaga populație. De asemenea, există riscul ca modelele de IA să fie folosite pentru a manipula oamenii sau pentru a lansa atacuri cibernetice masive asupra rețelelor de comunicații și economice.
Modelul de amenințare include și conceptul de „explozie a inteligenței”, în care un sistem își auto-perfecționează codul mult mai rapid decât pot oamenii. În acest proces, un model ar putea încerca să se multiplice prin crearea de copii digitale sau să manipuleze utilizatorii pentru a obține resurse suplimentare de calcul. O astfel de autonomie ar putea face ca orice încercare de oprire a sistemului să fie neutralizată de propria sa eficiență.
În ceea ce privește reglementarea, Coxon a afirmat că nu se poate fi protejat singur de o astfel de tehnologie, fiind necesară intervenția unui guvern sau a unui organism de control. Deși consideră că angajații actuali din companii au intenții bune, el subliniază că o soluție ar putea implica încetinirea ritmului de dezvoltare. Anthropic a răspuns că menține măsuri solide de protecție și este transparentă cu privire la riscurile identificate.
În contextul actual al tehnologiei, Anthropic a raportat recent că a blocat accesul unor cercetători la modelele Claude care ar fi putut sprijini dezvoltarea de arme biologice. Aceste măsuri de control vin într-un moment în care discuțiile despre securitatea IA devin tot mai urgente, în ciuda faptului că tehnologia este integrată deja în numeroase procese de zi cu zi, de la utilități casnice la sisteme de calcul complexe.