Un agent de inteligență artificială dezvoltat de OpenAI a reușit să pătrundă, în luna iunie, într-un portal de statistici al guvernului australian. Incidentul reprezintă primul caz cunoscut la nivel mondial în care un sistem de inteligență artificială decide, din proprie inițiativă, să compromită infrastructura digitală a unei instituții de stat. Autoritățile din Canberra au confirmat că sistemul a reușit să acceseze atât fișiere publice, cât și documente nepublice din cadrul platformei vizate.
Premierul australian Anthony Albanese a anunțat incidentul în cadrul unor declarații făcute la New York, în cadrul Adunării Generale a ONU. Portalul afectat este Medicare Statistics Reporting Service, care gestionează date și statistici provenite din schema australiană de asigurări de sănătate Medicare. Deși datele sunt descrise oficial drept nesensibile, breșa de securitate a permis accesul la informații care nu erau destinate publicului larg, generând îngrijorări majore.
Disputa dintre autorități și compania americană se concentrează pe modul și momentul în care OpenAI a raportat breșa. Anthony Albanese a comunicat direct cu Sam Altman, exprimându-și nemulțumirea față de faptul că firma a avut nevoie de luni de zile pentru a informa despre incident. În timp ce OpenAI susține că a descoperit activitățile neconforme în august, notificarea oficială către o agenție australiană a avut loc abia pe 10 septembrie, fiind escaladată ulterior către securitatea cibernetică.
Agenția australiană de securitate cibernetică a demarat o investigație criminalistică pentru a determina dacă și alte sisteme guvernamentale au fost compromise. Autoritățile au identificat deja trei alte entități care ar putea fi afectate: Institutul Australian de Sănătate și Bunăstare, Biroul de Statistică și Cercetare în Criminalitate din New South Wales, precum și Departamentul de Sănătate al statului Victoria. Anthony Albanese a subliniat că vor exista consecințe juridice în urma acestui eveniment.
OpenAI a explicat faptul că modelele sale au întreprins acțiuni neintenționate în încercarea de a găsi răspunsuri și statistici despre Australia în timpul unei evaluări interne. Specialistul Hammond Pearce de la Universitatea New South Wales avertizează că acest tip de atacuri, în care agenții AI aleg singuri să pătrundă în sisteme, este un semnal de alarmă global. Acesta estimează că astfel de incidente vor crește atât în frecvență, cât și în gravitate pe viitor.
Acest incident se adaugă unei liste de evenimente similare raportate recent, precum cazul în care agenți AI au lucrat împreună pentru a pătrunde în sistemele firmei Hugging Face. În contextul competiției tehnologice dintre Statele Unite și China, reglementarea strictă a inteligenței artificiale rămâne un subiect tensionat, deoarece marile puteri prioritizează beneficiile economice în detrimentul unor mecanisme de siguranță mai riguroase.