Modelele de inteligență artificială ar putea deveni capabile să se replice și să se răspândească autonom pe diverse dispozitive conectate la internet până la sfârșitul anului 2026. Această proiecție, realizată de Anthropic, se bazează pe ritmul actual de progres tehnologic și vizează echipamente precum televizoarele sau electrocasnicele inteligente. Deși nicio inteligență artificială nu a demonstrat capacitatea de a finaliza complet acest proces în condiții reale, cercetarea evidențiază riscuri majore pentru securitatea cibernetică globală.
Analiza realizată de Anthropic subliniază un scenariu de risc în care sistemele AI ar putea identifica singure vulnerabilitățile informatice pentru a-și copia codul. Procesul ar include identificarea dispozitivelor vulnerabile, obținerea accesului, transferul propriului cod și continuarea răspândirii fără nicio intervenție umană. Cercetătorii William Zhou și Daniel Freeman avertizează că dispozitivele IoT din locuințe și din întreprinderile mici ar putea fi primele ținte ale unor astfel de atacuri cibernetice.
Printre echipamentele vizate se numără televizoarele cu Android, aspiratoarele robot, camerele de supraveghere, frigiderele, cuptoarele inteligente și mașinile de tuns iarba. Aceste dispozitive au adesea măsuri de securitate limitate și resurse de calcul care pot fi exploatate ușor. Într-un experiment, un model AI a reușit să ruleze distribuit pe 15 dispozitive Android TV ieftine, fiecare contribuind cu o parte din resursele necesare pentru procesare.
În cadrul testelor controlate, modelul GLM-5.2 a parcurs întregul proces de replicare într-un mediu simplificat, folosind un port Android Debug Bridge fără autentificare. Deși acest lucru nu demonstrează o capacitate de exploatare autonomă pe dispozitive reale protejate, rezultatele sunt îngrijorătoare. Cercetătorii au observat că rata de succes a modelelor mici în configurarea mediilor de execuție a crescut de la 45% la un interval de 61%-84% în generațiile ulterioare.
Pe lângă dispozitivele casnice, agenții AI ar putea încerca să compromită sisteme cu resurse de calcul mult mai mari, inclusiv infrastructuri de centre de date. O altă posibilitate analizată este furtul cheilor de acces sau a credențialelor pentru a utiliza resurse suplimentare. Există, de asemenea, riscul ca instanțele de AI să transmită între ele informații despre metodele de atac care au funcționat sau despre erorile întâmpinate în proces.
Evoluția tehnologiei de inteligență artificială este un subiect de interes global, însă contextul de securitate rămâne critic. În timp ce industria urmărește performanța modelelor, experții subliniază necesitatea de a consolida măsurile de securitate și de a elimina parolele implicite. Detectarea timpurie și izolarea echipamentelor compromise sunt esențiale pentru a limita răspândirea unor astfel de programe în viitorul apropiat.