Cercetătorii de la Anthropic au publicat un avertisment care analizează posibilitatea ca modelele de inteligență artificială să funcționeze pe dispozitive ieftine, conectate la internet. Studiul arată că modelele de dimensiuni medii, care au un număr de maximum 30 de miliarde de parametri, pot îndeplini deja multe dintre sarcinile tehnice necesare procesului de autoreplicare. Această descoperire a generat reacții diverse în comunitatea experților în securitate cibernetică, unii considerând rezultatele îngrijorătoare, în timp ce alții susțin că riscurile sunt încă ipotetice.
Experimentele au demonstrat că un model AI de 26 de miliarde de parametri poate fi rulat distribuit pe 15 dispozitive Android TV, fiecare având un cost de aproximativ 55 de dolari. Această metodă presupune utilizarea simultană a mai multor dispozitive cu putere de calcul redusă, astfel încât acestea să funcționeze împreună pentru a compensa limitările individuale. Într-un test separat, realizat într-o rețea virtuală controlată, un model AI a reușit să coordoneze propagarea către opt noduri disponibile în patru din cele cinci teste efectuate.
Anthropic avertizează că un sistem capabil de autoreplicare ar putea prelua controlul asupra unor echipamente precum televizoare inteligente sau camere de supraveghere pentru a-și extinde capacitatea de calcul. Dispozitivele compromise ar putea forma o rețea de tip botnet, coordonată de inteligența artificială, fiind utilizată inclusiv pentru automatizarea atacurilor cibernetice. Un aspect critic menționat de companie este lipsa unui punct central de control, ceea ce ar face un asemenea sistem foarte dificil de oprit prin metodele actuale.
Opinia experților asupra acestor riscuri este împărțită. Ciaran Martin, fost director al Centrului Național pentru Securitate Cibernetică din Marea Britanie, susține că demonstrarea funcționării pe televizoare ieftine nu reprezintă automat o amenințare majoră și sugerează o doză de exagerare. Pe de altă parte, Zhengxiong Li, profesor la Universitatea Colorado Denver, explică faptul că un model AI care se comportă ca un vierme informatic ar putea găsi singur modalități de a compromite echipamentele, devenind aproape imposibil de dezactivat.
Compania Anthropic estimează că, dacă evoluția modelelor AI mici continuă în ritmul actual, acestea ar putea dobândi capacitățile necesare autoreplicării autonome până la sfârșitul anului. Totuși, nu a fost demonstrată încă funcționarea fiabilă a întregului proces într-un mediu real și necontrolat. Jessica Ji, cercetătoare la Universitatea Georgetown, menționează că, deși evoluțiile recente justifică studierea acestui risc, probabilitatea apariției unui astfel de sistem rămâne necunoscută, fiind necesar să fie analizat ca o posibilitate, nu ca o predicție certă.
Dezvoltarea rapidă a inteligenței artificiale a pus în alertă numeroase instituții de securitate internațională, care monitorizează modul în care algoritmii pot interacționa cu infrastructurile critice. Discuțiile privind riscurile AI nu sunt noi, însă viteza de progres a modelelor de limbaj și capacitatea lor de a executa cod reprezintă un nou nivel de complexitate pentru experții în protecția datelor și securitatea rețelelor globale.