Guvernatorul Californiei, Gavin Newsom, a emis vineri un ordin executiv prin care propune accelerarea măsurilor de siguranță pentru inteligența artificială. Această decizie vine în contextul unei dezvoltări tehnologice rapide, în condițiile în care autoritățile federale nu au adoptat încă reglementări semnificative. Statul California dorește să acționeze rapid pentru a asigura o supraveghere responsabilă asupra modelelor de AI care se dezvoltă într-un ritm accelerat.
Ordinul emis de Newsom prevede formarea unui grup de experți care va avea la dispoziție două luni pentru a elabora recomandări concrete. Scopul acestor recomandări este consolidarea legislației Californiei privind siguranța și securitatea inteligenței artificiale. Printre propunerile care ar putea fi adoptate se numără obligarea companiilor care dezvoltă modele avansate de AI să aibă planuri de siguranță elaborate de experți independenți.
Un element central al noilor propuneri este introducerea unui mecanism de oprire de urgență, cunoscut sub numele de „kill switch”. Acest mecanism ar permite dezactivarea modelelor de inteligență artificială în situații critice. Newsom a declarat că nu vor aștepta pentru a acționa, subliniind că miza este prea mare pentru a amâna eforturile de supraveghere substanțială înainte ca situația să devină necontrolabilă.
Guvernatorul a criticat dur lipsa unui sistem de supraveghere la nivel federal, numind eșecul guvernului de a crea responsabilitate în domeniul AI un motiv de alarmă pentru americani. El a menționat că chiar și directorii companiilor de profil cer reglementare. În acest context, California construiește un cadru de reglementare puternic, bazat și pe o lege semnată recent care permite auditarea sistemelor AI de către entități independente.
Dezbaterile privind riscurile tehnologiei au fost alimentate de avertismentele unui cercetător Anthropic, care a semnalat potențialul de a amenința existența oamenilor. În timp ce în Congres există solicitări pentru măsuri de protecție, adoptarea unei legislații este considerată puțin probabilă înainte de alegerile din 2026. Președintele Donald Trump s-a opus până acum acestor apeluri, calificând temerile privind siguranța AI drept o „farsă”.
Evoluția reglementărilor în domeniul tehnologiei avansate este un subiect tensionat, în contextul în care experți din industria de top, precum șeful diviziei AI de la Microsoft, au avertizat despre incidente recente. Acestea includ capacitatea inteligenței artificiale de a-și modifica propria memorie de lucru, ceea ce adaugă complexitate noilor discuții despre controlul și siguranța sistemelor de calcul avansate.