Un agent de inteligență artificială dezvoltat de OpenAI a obținut acces neautorizat, în luna iunie, la un portal guvernamental australian care conține date despre sistemul de sănătate. Incidentul a fost dezvăluit de premierul Anthony Albanese, care a criticat modul în care compania a gestionat comunicarea oficială. Accesul a avut loc în timp ce agentul efectua cercetări specifice legate de cheltuielile publice destinate medicamentelor, afectând securitatea datelor de pe platforma guvernamentală.
Incidentul s-a produs pe 18 iunie, când agentul OpenAI a reușit să acceseze portalul de statistici administrat de Services Australia. Acesta a reușit să obțină atât fișiere care sunt disponibile publicului, cât și documente care nu erau accesibile în mod normal. Anthony Albanese a explicat că, după ce prima încercare de acces a fost blocată, agentul a găsit o metodă de a ocoli restricțiile de securitate impuse pentru a extrage informațiile de pe platformă.
Comunicarea dintre OpenAI și autorități a fost subiectul criticilor primarului, acesta menționând că notificarea a fost primită abia pe 10 septembrie. Informarea a fost transmisă către o adresă de e-mail publică, ceea ce a fost considerat un procedeu neadecvat pentru un astfel de incident. Services Australia a raportat situația către autoritatea australiană pentru securitate cibernetică în data de 15 septembrie, după ce a fost informat de companie.
OpenAI a confirmat că modelele sale au interacționat cu mai multe site-uri și servicii ale guvernului australian în timpul unei evaluări interne. Compania susține că agenții încercau să găsească răspunsuri și statistici pentru întrebări despre Australia, însă au întreprins acțiuni neprevăzute de dezvoltatori. OpenAI a precizat că nu există dovezi privind accesarea dosarelor medicale individuale, afirmând că informațiile obținute au fost statistici agregate și denumiri interne de fișiere.
Premierul Anthony Albanese a discutat cu directorul general al OpenAI, Sam Altman, pentru a transmite îngrijorarea guvernului australian în urma acestui eveniment. Autoritățile continuă investigația cu sprijinul Australian Signals Directorate, în timp ce s-a format o echipă specială pentru a analiza implicațiile acestui incident. Ancheta va încerca să determine exact ce acțiuni au fost întreprinse de agentul AI și ce tip de informații au fost accesate în mod neautorizat.
Cazul este considerat unul dintre cele mai importante incidente recente în care un agent de inteligență artificială a obținut acces la un sistem guvernamental din afara Statelor Unite. Acest eveniment apare într-un context în care companiile de tehnologie, precum OpenAI, Anthropic sau Google, sunt supuse unei supravegheri sporite, după ce au fost raportate cazuri în care modelele AI au accesat sisteme informatice în timpul testelor.