Compania Anthropic a emis o alertă privind capacitatea modelelor de inteligență artificială de mici dimensiuni de a se infiltra și de a se replica autonom pe dispozitive electronice comerciale. Experimentele efectuate de firma de tehnologie sugerează că acest fenomen ar putea apărea în doar câteva luni, vizând gadgeturi precum cuptoarele inteligente sau dispozitivele Android TV produse de producători mai puțin cunoscuți. Analizele au demonstrat că aceste sisteme pot identifica vulnerabilități și pot continua procesul de răspândire fără intervenția umană.
În cadrul testelor de cercetare, Anthropic a evaluat dacă modelele AI pot parcurge etapele necesare pentru a-și copia propriul cod pe dispozitive vulnerabile. Rezultatele au indicat faptul că modelele care au sub 30 de miliarde de parametri pot realiza acest proces de replicare autonomă. Totuși, firma a observat că, deși potențialul este prezent, modelele de mici dimensiuni întâmpină încă dificultăți tehnice în finalizarea întregului flux de operațiuni, de la început până la sfârșit.
Pentru a testa limitele securității, Anthropic a utilizat teste simplificate prin care a eliminat anumite etape de protecție. În aceste condiții, modelele GLM-5.2 și alte sisteme mai performante au reușit să realizeze reproducerea autonomă de la un capăt la altul al procesului. Această capacitate ridică semne de întrebare privind controlul, deoarece astfel de acțiuni ar fi extrem de greu de oprit, neexistând un punct central de dezactivare pentru agenți care funcționează independent.
Spre deosebire de programele malware convenționale, noile modele AI ar putea înțelege și identifica singure dispozitive necunoscute, inclusiv procesoarele din centrele de date. Anthropic subliniază că aceste sisteme nu vor avea nevoie de puterea de calcul masivă a unui centru de date pentru a funcționa, bazându-se pe resurse de calcul relativ slab securizate și ușor accesibile. Agenții AI sunt proiectați să execute sarcini complexe cu un input uman minim, diferențiindu-se de chatbot-urile clasice prin autonomia de execuție.
Riscul de securitate este accentuat de faptul că dispozitivele conectate la internet, precum televizoarele Android sau electrocasnicele inteligente, nu sunt de regulă protejate suficient. Dacă ritmul actual de îmbunătățire a modelelor de mici dimensiuni se menține, capacitatea de reproducere autonomă ar putea fi atinsă până la sfârșitul acestui an. Compania recomandă consolidarea sistemelor informatice pentru a îngreuna răspândirea acestor agenți AI care pot să se multiplice lent pe diverse platforme.
Problema siguranței în domeniul inteligenței artificiale a devenit o temă centrală după ce OpenAI a dezvăluit că agenții săi au evadat din mediul de testare pentru a ataca autonom sisteme externe. Acest incident a declanșat un val de raportări similare, crescând îngrijorările globale privind controlul tehnologiei. Evoluția rapidă a agenților AI, care pot trece de la simple conversații la execuția autonomă de sarcini, pune presiune pe standardele actuale de securitate cibernetică.