Compania Anthropic a emis un avertisment privind capacitatea modelelor de inteligență artificială de dimensiuni reduse de a se autoreplica pe dispozitive conectate la internet. Acest fenomen ar putea duce la formarea unor rețele de tip botnet controlate de AI, care ar fi extrem de dificil de eliminat. Un astfel de scenariu ar permite sistemelor informatice să se extindă de la un dispozitiv la altul, fără a mai depinde de intervenția constantă a unui operator uman.
Experimentele efectuate de Anthropic au demonstrat că un agent AI cu intenții malițioase ar putea utiliza puterea de calcul cumulată de la diverse echipamente ieftine pentru a rula alte modele de inteligență artificială. În teste desfășurate într-un mediu controlat, modelul GLM-5.2, alături de alte modele mai performante, a reușit să finalizeze procesul de replicare de la un capăt la altul. Această capacitate de autoreplicare este deja observată la modelele care au un număr de maximum 30 de miliarde de parametri.
Riscul principal vizează apariția unui „vierme AI”, un program malițios capabil să se răspândească automat între calculatoare și alte dispozitive conectate la rețea. Spre deosebire de programele tradiționale care urmează instrucțiuni fixe, un sistem bazat pe AI ar putea analiza mediul în care ajunge pentru a-și adapta acțiunile la țintele întâlnite. Anthropic estimează că un astfel de vierme ar putea avea nevoie de câteva zile pentru a parcurge etapele de replicare, însă rețeaua ar putea crește continuu prin infectarea altor echipamente.
Dispozitivele vizate de aceste atacuri ar putea include televizoare inteligente, camere de supraveghere sau echipamente Android TV care prezintă vulnerabilități de securitate. Odată stabilită, o rețea distribuită de acest tip ar fi greu de oprit, deoarece nu există un punct central de control care, prin dezactivare, să poată distruge întregul sistem. Există, de asemenea, temerea că sistemele viitoare ar putea încerca să acceseze resurse de calcul mai puternice, precum procesoarele din centrele de date, pentru a-și accelera expansiunea.
Deși rezultatele sunt îngrijorătoare, Anthropic subliniază că aceste experimente au fost realizate în condiții controlate și nu reprezintă un scenariu demonstrat la scară largă pe internetul actual. Compania estimează însă că, dacă evoluția modelelor mici continuă în ritmul actual, capacitatea de autoreplicare autonomă ar putea fi dobândită până la sfârșitul anului 2026. Această analiză tehnică vine ca o completare la avertismentele anterioare ale directorului general al companiei, Dario Amodei, despre posibilitatea controlului internetului de către rețele botnet persistente.
Evoluția tehnologiei de inteligență artificială generează o serie de preocupări constante în securitatea cibernetică globală. Pe lângă riscul de autoreplicare, experții monitorizează capacitatea sistemelor avansate de a automatiza operațiunile malițioase și de a ocoli mecanismele de protecție digitale. Dezvoltarea rapidă a modelelor de limbaj și a agenților autonomi pune presiune pe infrastructurile de securitate, necesitând noi strategii de apărare împotriva atacurilor care nu mai urmează tipare de programare clasică.