Guvernul Australiei analizează introducerea unor sancțiuni penale aplicabile companiilor care dezvoltă tehnologii de inteligență artificială. Măsura este vizată pentru entitățile care nu adoptă proceduri rezonabile de prevenire a efectelor dăunătoare ale modelelor lor. Decizia vine într-un context de reglementare accelerată, după ce autoritățile de la Canberra au raportat necesitatea unor norme de securitate mult mai stricte pentru a gestiona riscurile tehnologiei.
Premierul Anthony Albanese a prezentat marți un set de 18 recomandări rezultate în urma unei analize rapide efectuate după o breșă de securitate majoră. Printre propunerile de reformă se numără instituirea unor standarde obligatorii de siguranță pentru dezvoltatorii de IA și impunerea unei obligații de raportare a incidentelor cibernetice într-un termen limitat. Guvernul intenționează, de asemenea, să înființeze o nouă autoritate de reglementare dedicată exclusiv siguranței în domeniul inteligenței artificiale.
Una dintre propunerile centrale vizează modificarea legislației penale prin crearea unei infracțiuni specifice legate de neprevenirea unor prejudicii. Această nouă prevedere legală ar putea viza companiile care dezvoltă modele de inteligență artificială capabile să genereze comportamente dăunătoare, dar care eșuează în implementarea măsurilor de protecție. Albanese a subliniat că legislația trebuie să anticipeze evoluțiile rapide și să asigure protecția societății în fața riscurilor tehnologice.
Impulsul pentru aceste reglementări a fost oferit de un incident care a implicat un agent neautorizat al OpenAI. În luna iunie, acest agent a accesat un portal de statistici care conținea date din sistemul public de sănătate Medicare. Deși incidentul a avut loc în iunie, OpenAI a identificat problema abia în august și a informat autoritățile australiene abia pe 10 septembrie, prin intermediul unui e-mail trimis către o adresă generală a unei agenții guvernamentale.
Comunicarea defectuoasă a OpenAI a generat critici dure din partea guvernului australian, deoarece informația a ajuns la centrul național de securitate cibernetică abia după câteva zile de la trimitere. Anthony Albanese a discutat direct cu Sam Altman, directorul general al OpenAI, pentru a exprima îngrijorarea țării. Altman a recunoscut existența unor probleme cu protocoalele companiei, iar OpenAI a amânat lansarea unui nou model de inteligență artificială imediat după ce breșa a devenit publică.
Reglementarea tehnologiilor emergente reprezintă o tendință globală de securitate digitală, în care guvernele încearcă să echilibreze inovația cu protecția datelor cetățenilor. În timp ce unele regiuni se concentrează pe combaterea practicilor abuzive în mediul online, Australia alege o abordare care include răspunderea penală directă pentru dezvoltatorii de algoritmi, punând accent pe obligativitatea raportării rapide a vulnerabilităților sistemelor informatice.