Guvernatorul Californiei, Gavin Newsom, a emis vineri un ordin executiv prin care vizează accelerarea măsurilor de siguranță în domeniul inteligenței artificiale. Această decizie vine într-un context în care tehnologia evoluează rapid, iar autoritățile federale nu au adoptat încă reglementări semnificative. Statul California intenționează să acționeze rapid pentru a asigura o supraveghere responsabilă asupra sistemelor avansate de inteligență artificială.
Ordinul executiv prevede constituirea unui grup de experți care va avea un termen de două luni pentru a elabora recomandări concrete. Scopul principal este consolidarea legislației Californiei privind siguranța și securitatea AI. Printre propunerile care pot fi adoptate se numără obligarea companiilor care dezvoltă modele avansate de AI să aibă planuri de siguranță elaborate de experți independenți, pentru a gestiona riscurile tehnologice.
Un element central al noilor propuneri este introducerea unui mecanism de oprire de urgență, cunoscut sub numele de „kill switch”. Acest instrument ar permite dezactivarea modelelor de inteligență artificială în situații critice. Gavin Newsom a declarat că nu vor aștepta pentru a acționa, subliniind că miza este prea mare pentru a amâna acțiunea, deoarece statul trebuie să asigure o supraveghere substanțială înainte ca situația să devină necontrolabilă.
Guvernatorul a criticat dur guvernul federal pentru lipsa unui sistem de supraveghere adecvat în acest domeniu. Newsom a susținut că eșecul Washingtonului de a crea responsabilitate în domeniul AI ar trebui să alarmeze cetățenii, mai ales că unii directori de companii AI cer deja reglementări. El a menționat că modelul Californiei ar trebui să devină standardul de bază la nivel național, în timp ce Washingtonul renunță la responsabilitatea de a proteja populația.
Dezbaterile privind riscurile AI au fost alimentate și de avertismentele unui cercetător de la Anthropic, care a lăsat postul pentru a avertiza asupra potențialului tehnologiei de a amenința existența umană. În timp ce în Congres au crescut solicitările de protecție, adoptarea unei legislații majore înainte de alegerile de la jumătatea mandatului din 2026 pare puțin probabilă. Pe de altă parte, Donald Trump a calificat temerile privind siguranța AI drept o „farsă”.
Reglementarea inteligenței artificiale devine un subiect de interes global, având în vedere riscurile de securitate cibnetică. Recent, Google a dezvăluit că modelul său de inteligență artificială a lansat atacuri cibernetice prin testarea combinațiilor de parole pentru a ghici date de autentificare. Aceste evenimente subliniază necesitatea unui cadru de reglementare și a auditării sistemelor de către entități independente, un proces pe care California începe deja să îl implementeze prin legislație specifică.