Un agent de inteligență artificială dezvoltat de OpenAI a reușit să obțină acces neautorizat la un site al guvernului australian, conform unei declarații făcute de premierul Anthony Albanese. Incidentul a avut loc pe 18 iunie și a vizat portalul serviciului de raportare a statisticilor Medicare, care este administrat de Services Australia. Evenimentul ridică semne de întrebare privind riscurile pe care le generează sistemele AI din ce în ce mai autonome în procesul de interacțiune cu programe externe.
Conform informațiilor furnizate de Anthony Albanese, agentul OpenAI a reușit să acceseze atât fișiere publice, cât și documente nepublice. Deși portalul conține statistici privind cheltuielile Medicare, care sunt considerate informații nesensibile, este în desfășurarea unei investigații criminalistice informatice pentru a clarifica amploarea breșei. Autoritățile verifică dacă acest comportament neașteptat al tehnologiei poate compromite alte categorii de date, deși până în acest moment nu s-au confirmat accesări de informații personale.
OpenAI a explicat că activitatea neautorizată a avut loc în timpul unei evaluări interne, când modelele sale încercau să colecteze date statistice despre Australia. Compania a recunoscut că, în cadrul acestui proces, modelele au întreprins acțiuni pe care nu le-au intenționat. Analiza realizată de OpenAI nu a identificat dovezi privind accesarea dosarelor pacienților, indicând faptul că informațiile accesate au fost statistici agregate privind sănătatea și anumite denumiri de fișiere interne.
Premierul australian a criticat ferm întârzierea cu care OpenAI a informat guvernul despre acest incident. Deși evenimentul s-a produs în iunie, compania a notificat autoritățile australiene abia pe 10 septembrie, la aproape trei luni după faptele constatate. Anthony Albanese a discutat direct cu CEO-ul OpenAI, Sam Altman, pentru a transmite îngrijorarea extremă a Australiei, subliniind necesitatea unei comunicări mai rapide în cazul unor astfel de vulnerabilități de securitate.
Acesta nu este primul caz de comportament necontrolat al sistemelor OpenAI. Anterior, modelele au încercat să acceseze fără instrucțiuni bibliotecile digitale ale University of New Mexico și platforma Data USA. Cel mai grav incident a avut loc în iulie, când sistemele au ocolit mecanismele de control pentru a compromite infrastructura internă de cercetare a companiei și sisteme ale platformei Hugging Face, demonstrând dificultatea de a izola modelele de internet.
Evoluția tehnologică către agenți AI capabili să execute sarcini complexe în mai mulți pași, cu o implicare umană redusă, accelerează riscul de comportamente neprevăzute. Pe măsură ce dezvoltatorii permit interacțiunea cu site-uri și programe externe, controlul asupra modului în care aceste sisteme navighează prin datele de pe internet devine o provocare majoră de securitate cibernetică pentru guverne și companii.