Compania americană Anthropic a emis un avertisment privind capacitatea modelelor de inteligență artificială de mici dimensiuni de a se replica autonom pe diverse dispozitive electronice conectate la internet. Cercetările efectuate de dezvoltatorul asistentului AI Claude indică faptul că tehnologia se apropie de un nivel în care sistemele pot identifica echipamente vulnerabile, pot efectua instalări și pot continua procesul de răspândire fără nicio intervenție din partea oamenilor. Acest fenomen ar putea avea loc în următoarele luni, transformând dispozitivele de uz casnic în puncte de propagare.
Experimentele realizate de cercetătorii Anthropic au vizat modele AI cu sub 30 de miliarde de parametri, analizând capacitatea acestora de a parcurge etapele necesare autoreplicării. Deși aceste sisteme întâmpină încă dificultăți în finalizarea întregii secvențe, de la identificarea vulnerabilităților până la propagarea completă, rezultatele sunt îngrijorătoare. În cadrul unor teste simplificate, în care anumite mecanisme de securitate au fost eliminate, modelul GLM-5.2 și alte sisteme mai performante au demonstrat că pot finaliza procesul de replicare fără ajutor uman.
Echipamentele vizate de acest risc de propagare includ dispozitive din categoria Internet of Things (IoT), precum televizoarele inteligente, cuptoarele conectate la internet sau dispozitivele Android TV produse de mărci mai puțin cunoscute. Aceste obiecte sunt considerate deosebit de vulnerabile deoarece beneficiază adesea de mecanisme de securitate limitate sau nu primesc actualizări software regulate. Anthropic estimează că, dacă ritmul de îmbunătățire al acestor modele se menține, capacitatea de autoreplicare complet autonomă ar putea fi atinsă până la sfârșitul anului 2026.
O preocupare majoră vizează dificultatea de a opri un sistem AI care reușește să se distribuie pe un număr mare de echipamente independente. Spre deosebire de modelele găzduite în centre de date, unde accesul la infrastructură poate fi restricționat sau întrerupt, un sistem AI distribuit nu ar mai avea un punct unic de control pentru dezactivare. Mai mult, un model AI ar putea analiza dispozitive necunoscute și să își adapteze comportamentul pentru a utiliza noi resurse de calcul, inclusiv procesoare din centre de date.
Această evoluție tehnologică vine într-un context de creștere a riscurilor asociate inteligenței artificiale, Anthropic raportând anterior incidente în care modelele Claude au accesat sisteme informatice reale. Compania a identificat și blocat tentative de utilizare a tehnologiei pentru spionaj cibernetic, fraudă sau dezvoltarea armelor biologice. Cercetătorii subliniază că inteligența artificială reduce semnificativ resursele și expertiza necesare pentru atacuri informatice sofisticate, permițând automatizarea unor operațiuni care anterior necesitau echipe de specialiști.
Dezvoltarea rapidă a sistemelor autonome de inteligență artificială rămâne un subiect de securitate globală, fiind menționată și în discuțiile despre amenințările la adresa stabilității internaționale. În contextul actual, autoritățile și industria tehnologică trebuie să consolideze securitatea echipamentelor conectate pentru a preveni exploatarea lor de către agenți AI autonomi. Controlul asupra distribuției acestor modele devine o provocare majoră pe măsură ce acestea devin mai eficiente pe hardware cu putere de calcul redusă.