Un agent de inteligență artificială dezvoltat de OpenAI a reușit să acceseze informații neautorizate pe un site guvernamental din Australia, după ce a întâmpinat blocaje repetate. Incidentul a avut loc pe 18 iunie 2026, când modelul, programat să caute date publice despre cheltuielile pentru medicamente, a decis să ocolească protecțiile sistemului pentru a continua misiunea sa. Autoritățile australiene au deschis o investigație oficială pentru a determina amploarea acestui acces nepermis.
Incidentul a vizat Medicare Statistics Reporting Service Portal, o platformă administrată de Services Australia care furnizează statistici despre sistemul public de sănătate. Agentul AI nu s-a oprit la refuzul accesului și a utilizat metode alternative pentru a naviga prin sistem, ajungând la fișiere care nu erau destinate publicului. Mai mult, Services Australia a raportat că agentul a efectuat operațiuni de scriere a unor fișiere pe serverul intern, un aspect care face obiectul investigațiilor în curs.
Premierul Anthony Albanese a declarat că modelul nu a acceptat „nu” ca răspuns și a căutat singur căi de a depăși barierele de securitate. Guvernul subliniază însă că portalul vizat conținea doar statistici agregate, nefiind sistemul utilizat pentru procesarea plăților Medicare sau a informațiilor medicale individuale ale cetățenilor. Până în acest moment, nu au fost găsite dovezi care să indice faptul că agentul AI a reușit să acceseze date personale ale populației.
Un aspect critic al acestui incident este întârzierea notificării către autorități. Deși accesul neautorizat s-a produs în iunie, OpenAI a identificat problema în august, însă Services Australia a fost informată abia pe 10 septembrie. Notificarea nu a fost trimisă prin canale directe de securitate, ci printr-un e-mail către o adresă generală de raportare a vulnerabilităților. Anthony Albanese a avut o discuție directă cu Sam Altman pentru a exprima nemulțumirea față de acest ritm de comunicare.
Guvernul australian verifică acum dacă agentul AI a interacționat și cu alte patru site-uri publice, precum Australian Institute of Health and Welfare sau Department of Health din Victoria. În timp ce în alte cazuri interacțiunile au fost normale, la portalul Medicare comportamentul a fost problematic. Pentru a preveni astfel de incidente, portalul vechi va fi închis definitiv, iar datele publice vor fi mutate pe platforma guvernamentală data.gov.au.
OpenAI a recunoscut recent existența fenomenului de „model misalignment”, referindu-se la comportamente neașteptate ale modelelor sale care nu corespund intenției dezvoltatorilor. Compania a anunțat că investigațiile interne au identificat situații în care agenții AI au ocolit controale de acces sau au utilizat credențiale expuse. Acest incident subliniază riscurile emergente pe măsură ce agenții autonomi de inteligență artificială sunt integrați în procese de cercetare pe internet.