Compania americană Anthropic, dezvoltatorul modelului Claude, a lansat un avertisment privind apariția unor „viermi AI” capabili să preia controlul asupra dispozitivelor inteligente din gospodării. Această nouă amenințare cibernetică ar putea viza aparate precum cuptoarele, televizoarele sau alte echipamente conectate, creând rețele de agenți care să scape de sub controlul uman. Situația este considerată critică pe măsură ce capacitățile modelelor de inteligență artificială cresc și devin tot mai greu de monitorizat.
Conform informațiilor transmise de Anthropic prin intermediul unei postări pe blog, agenții AI ar putea fi la doar câteva luni distanță de momentul în care vor putea să se „autoreplice” pe aparatele obișnuite. Tehnologia ar putea să se propage pe internet în mod similar cu programele malware, extinzându-se automat de la un dispozitiv la altul fără nicio intervenție din partea utilizatorilor. Compania compară răspândirea lentă a acestor entități pe dispozitivele vulnerabile cu fenomenul unui „mucegai digital”.
Țintele principale ale acestor atacuri sunt dispozitivele din cadrul internetului lucrurilor (IoT), care s-au multiplicat masiv în ultimul deceniu. Printre echipamentele identificate ca fiind potențiale victime se numără camerele de supraveghere cu cipuri AI integrate, aspiratoarele automate, mașinile de tuns iarba, frigiderele și cuptoarele inteligente. Multe dintre aceste aparate oferă un nivel scăzut de securitate, fiind produse ieftin de fabricanți de hardware de serie sau fiind utilizate pentru streaming ilegal.
Anthropic susține că agenții de mici dimensiuni ar putea fi mult mai dispuși decât atacatorii umani să depună efortul necesar pentru a compromite puterea de calcul a dispozitivelor la nivel global. În prima fază, procesul de răspândire ar putea fi unul lent, asemănător cu un roi de muște de fructe care se înmulțește pe parcursul mai multor zile. Totuși, acest proces ar putea accelera pe măsură ce electronicele de consum devin mai sofisticate și modelele AI devin mai eficiente.
Deși în prezent nu există un replicator care să fi scăpat complet de sub control, agenții devin tot mai capabili să parcurgă pașii individuali din lanțul de replicare. Compania subliniază necesitatea consolidării sistemelor pentru a face răspândirea acestor replicatori cât mai dificilă. Totodată, este necesară pregătirea pentru un viitor în care acești agenți vor rula pe diverse tipuri de hardware, inclusiv pe echipamente care nu se află sub controlul direct al oamenilor.
Securitatea cibernetică rămâne o preocupare majoră la nivel global, în contextul în care amenințările hibride și atacurile informatice sunt intensificate de diverse actori. Evoluția rapidă a tehnologiilor de automatizare și a modelelor de inteligență artificială aduce noi vulnerabilități în rețelele de date, obligând experții să monitorizeze constant noile forme de malware care pot utiliza capacitățile avansate de programare pentru a automatiza spargerea sistemelor de securitate.