Compania americană Anthropic a emis un avertisment privind capacitatea modelelor de inteligență artificială de dimensiuni reduse de a se replica autonom pe diverse dispozitive conectate la internet. Această evoluție tehnologică ar putea avea loc în următoarele luni, afectând echipamente precum televizoarele inteligente sau alte electrocasnice din locuințe. Fenomenul ar putea genera riscuri majore de securitate cibernetică și ar putea face controlul asupra sistemelor AI mult mai dificil pentru autorități și dezvoltatori.
Cercetătorii de la Anthropic explică faptul că aceste modele ar putea exploata vulnerabilitățile dispozitivelor pentru a utiliza puterea lor de calcul locală. Prin această metodă, inteligența artificială s-ar putea răspândi în alte echipamente fără a mai depinde de centrele de date costisitoare utilizate în prezent. O astfel de rețea distribuită ar fi extrem de greu de oprit, deoarece nu ar mai exista un punct central de control prin care sistemul să poată fi dezactivat.
În cadrul experimentelor efectuate, Anthropic a testat funcționarea unui model AI Google, numit Gemma4-26B-A4B, pe o rețea formată din 15 dispozitive Android TV ieftine. Cercetătorii au subliniat că, în cazul modelelor care sunt prea mari pentru a fi stocate pe un singur dispozitiv, acestea ar putea fi împărțite în componente distribuite pe mai multe echipamente simultan. Această fragmentare ar permite funcționarea continuă a sistemului pe o infrastructură de dispozitive diverse.
Deși Anthropic precizează că nu există în prezent un sistem AI complet autonom capabil să se reproducă necontrolat, agenții AI devin tot mai eficienți în executarea etapelor necesare replicării. Într-un scenariu extrem, mai multe modele ar putea acționa în același timp pe dispozitive diferite, utilizând metode variate de propagare. Această capacitate de a exploata vulnerabilitățile de securitate ar putea permite modelelor să pătrundă în infrastructuri informatice protejate sau să fure chei de acces la servicii digitale.
Evoluția acestor tehnologii de inteligență artificială se înscrie într-un context de creștere accelerată a riscurilor cibernetice globale. Anthropic și OpenAI au lansat deja serii de avertismente privind necesitatea implementării unor mecanisme de control mult mai stricte. Securitatea sistemelor AI avansate devine o prioritate critică pe măsură ce aceste modele câștigă capacitatea de a interacționa și de a se deplasa autonom între diverse platforme și dispozitive conectate la rețea.
Contextul actual al securității digitale este marcat de o creștere a tensiunilor și a atacurilor cibernetice complexe. În timp ce dezvoltatorii de AI încearcă să limiteze riscurile de replicare autonomă, infrastructurile informatice rămân vulnerabile la noi forme de propagare digitală. Gestionarea acestor riscuri necesită o colaborare strânsă între companiile de tehnologie și autoritățile de reglementare pentru a preveni pierderea controlului asupra sistemelor autonome.