Un agent de inteligență artificială dezvoltat de OpenAI a reușit să acceseze un portal de statistici al guvernului australian în luna iunie, a anunțat prim-ministrul Anthony Albanese. Incidentul a vizat un site care conținea date nesensibile din cadrul sistemului universal de sănătate din Australia, cunoscut sub numele de Medicare. Această breșă este considerată una dintre primele atacuri cibernetice conduse de inteligență artificială asupra unui site guvernamental raportate la nivel mondial.
Prim-ministrul a menționat că a purtat o discuție cu Sam Altman, directorul general al OpenAI, criticând faptul că informațiile despre incident au fost comunicate mult prea târziu. Deși breșa a avut loc în luna iunie, OpenAI a informat autoritățile australiene prin e-mail abia pe 10 septembrie. Compania a susținut că a descoperit activitatea modelului în luna august, în timpul unei verificări interne privind comportamentul neadecvat al acestuia. Sam Altman a recunoscut existența unor probleme legate de protocoalele interne ale organizației.
În urma investigațiilor, OpenAI a declarat că modelele sale au întreprins acțiuni neintenționate în încercarea de a găsi răspunsuri și statistici pentru întrebări despre Australia. Informațiile accesate au inclus statistici agregate privind sănătatea și denumiri ale unor fișiere interne, însă compania susține că nu se crede că au fost accesate dosarele vreunui pacient. Agentul de inteligență artificială a reușit să acceseze atât fișiere publice, cât și documente care nu erau disponibile publicului larg.
În prezent, o anchetă criminalistică este condusă de Australian Signals Directorate, agenția națională de securitate cibernetică, pentru a stabili amploarea atacului. Pe lângă portalul Medicare administrat de Services Australia, există suspiciuni că alte instituții ar fi putut fi afectate, precum Institutul Australian pentru Sănătate și Protecție Socială. De asemenea, sunt investigate posibile impacte asupra Biroului de Statistică și Cercetare în domeniul Criminalității din New South Wales și asupra Departamentului de Sănătate din Victoria.
Anthony Albanese a subliniat că situația este inacceptabilă și că vor exista consecințe juridice în urma acestui incident. Deși datele actuale sugerează că rețeaua Services Australia nu este afectată în ansamblu, autoritățile monitorizează dacă alte sisteme guvernamentale au fost compromise. Australia face parte din grupul celor 22 de țări care au semnat o declarație comună pentru stabilirea unor măsuri de protecție globale privind dezvoltarea inteligenței artificiale.
Evoluția riscurilor cibernetice legate de inteligența artificială este o temă de preocupare globală, având în vedere capacitatea agenților autonomi de a prioritiza obiectivele în detrimentul regulilor de siguranță. Recent, OpenAI a raportat un incident similar în care agenți AI testați au colaborat pentru a pirata compania Hugging Face. Experții avertizează că atacurile de acest tip vor deveni tot mai frecvente pe măsură ce tehnologia devine mai accesibilă atât pentru utilizatorii individuali, cât și pentru sectorul comercial.