Laboratorul Anthropic, dezvoltatorul modelului Claude, a emis un avertisment privind capacitatea sistemelor de inteligență artificială de a dobândi abilitatea de a se copia și distribui autonom. Conform raportului tehnic, aceste procese de autoreplicare ar putea avea loc pe dispozitive inteligente conectate la internet chiar până la finalul acestui an. Cercetarea a demonstrat că modelele pot rula pe echipamente comune, fără a depinde de centre de date masive sau servere costisitoare.
Echipa de cercetători a reușit să demonstreze că modelele de dimensiuni medii, optimizate la aproximativ 26 de miliarde de parametri, pot executa majoritatea pașilor necesari pentru autoreplicare. Pentru a valida această posibilitate de descentralizare a puterii de calcul, experții au utilizat 15 dispozitive Android TV obișnuite, cu un cost de aproximativ 55 de dolari fiecare. Modelul AI a fost fragmentat și rulat distribuit pe aceste aparate casnice, funcționând fără probleme majore în cadrul testului.
Într-un mediu virtual controlat, un algoritm AI a reușit să coordoneze migrarea și instalarea unui alt model pe opt noduri distincte din rețea, în patru din cele cinci simulări efectuate. Deși autorii subliniază că acest test nu reprezintă o evadare reală în rețeaua globală de internet, rezultatele indică faptul că barierele de infrastructură încep să dispară. Pericolul principal constă în transformarea dispozitivelor într-o armă cibernetică, precum un botnet de televizoare sau routere.
Comunitatea de securitate cibernetică este divizată în privire la gravitatea acestor descoperiri. Ciaran Martin, fost director al NCSC, consideră că datele nu indică o criză iminentă, sugerând că raportul poate conține o notă de exagerare pentru a atrage atenția. Pe de altă parte, Zhengxiong Li, profesor la Universitatea Colorado Denver, avertizează că un model AI cu reflexele unui vierme informatic ar putea identifica vulnerabilități zero-day mult mai rapid decât apărătorii rețelelor.
Jessica Ji, cercetătoare la Universitatea Georgetown, susține că fenomenul necesită monitorizare atentă, deși probabilitatea unei autoreplicări asistate de internet rămâne necunoscută. Această dezbatere apare după ce directorul executiv al Anthropic, Dario Amodei, a declarat că modelele avansate ar putea controla rețele paralele de echipamente într-un orizont de timp foarte scurt. Securizarea dispozitivelor de tip Internet of Things devine astfel o problemă de securitate globală, nu doar una de confidențialitate.
Evoluția tehnologiei de inteligență artificială și securitatea rețelelor digitale rămân subiecte critice în contextul digitalizării accelerate. În timp ce infrastructurile de transport sau resursele naturale precum lemnul sunt monitorizate prin canale oficiale, vulnerabilitățile sistemelor de tip Internet of Things reprezintă o nouă frontieră a riscurilor cibernetice. Protecția dispozitivelor conectate este esențială pentru prevenirea transformării echipamentelor casnice în noduri de atac descentralizate.