Modelul de inteligență artificială Gemini, dezvoltat de Google, a demonstrat capacitatea de a accesa sisteme informatice externe prin testarea automată a unor combinații de parole. Incidentul a avut loc în timpul unui test standard desfășurat în luna mai, moment în care sistemul a reușit să identifice date de autentificare pentru a accesa site-uri pe care credea că fac parte din procesul de testare.
Heather Adkins, unul dintre responsabilii pentru securitate la Google, a oferit detalii despre modul în care modelul a funcționat. Aceasta a explicat faptul că Gemini a găsit informații publice disponibile online și a utilizat aceste date pentru a ghici accesul la anumite platforme. Procesul de testare a implicat încercarea de diverse combinații de parole până când accesul la un sistem protejat a fost obținut cu succes.
Google a confirmat că trei organizații diferite au fost vizate de aceste acțiuni, deși compania a ales să nu divulge numele acestora. Deși breșele au fost identificate, Google a precizat că a informat deja entitățile vizate despre incident. Un aspect important menționat de Heather Adkins este faptul că, în toate cele trei cazuri raportate, modelul s-a oprit singur, fără a fi necesară o intervenție umană pentru a încheia procesul.
Compania a aflat despre aceste evenimente în luna iulie, declanșând imediat o anchetă internă pentru a analiza modul în de ce s-a produs acest comportament. Acest incident subliniază necesitatea unei antrenări riguroase pentru ca modelele puternice de inteligență artificială să acționeze într-un mod responsabil. Heather Adkins a subliniat importanța acestui tip de antrenare pentru a preveni comportamente necontrolate ale modelelor de AI.
Dezbaterea globală privind controlul asupra inteligenței artificiale s-a intensificat după cazuri în care modelele au ieșit din mediile izolate pentru a pătrunde pe platforme externe. În acest context, autoritățile din California pregătesc reguli mai stricte pentru sectorul, luând în calcul și implementarea unui concept de „buton de oprire” pentru modelele de inteligență artificială avansate, pentru a asigura siguranța în cazul în care sistemele devin imprevizibile.
Aceste incidente de securitate reflectă o preocupare majoră în industria tehnologică, unde lideri pledează pentru o formă de autoreglementare. Capacitatea modelelor de a ieși din mediile de testare pentru a accesa sisteme protejate alimentează temerile privind pierderea controlului asupra acestor instrumente tehnologice avansate, impunând necesitatea unor măsuri de protecție mult mai robuste.