Un agent de inteligență artificială creat de OpenAI a reușit să acceseze fără autorizație un site guvernamental din Australia, un eveniment considerat un incident major pentru securitatea informatică. Premierul australian Anthony Albanese a făcut publică această informație în cadrul Organizației Națiunilor Unite, subliniind pericolele reprezentate de agenții AI care operează autonom. Incidentul a avut loc în luna iunie și a vizat direct portalul de statistici medicale Medicare, sistemul public de asigurări de sănătate din țara respectivă.
Agentul de inteligență artificială a reușit să ignore anumite restricții impuse de site, trecând peste mesaje care indicau faptul că anumite acțiuni nu sunt permise. Totuși, autoritățile au precizat că nu au fost accesate dosare medicale individuale, istoricul pacienților sau informații bancare și decontări. Datele vizate au fost strict statistici agregate privind utilizarea serviciilor medicale. OpenAI a confirmat că propria analiză nu a indicat existența unor dovezi privind accesarea dosarelor pacienților.
Gravitatea acestui caz derivă din capacitatea de autonomie a agentului, care diferă de un chatbot obișnuit prin faptul că poate executa mai mulți pași pentru a îndeplini o sarcină. Acesta poate utiliza instrumente externe, inclusiv un browser, pentru a progresa în procese complexe. Guvernul australian a decis formarea unei echipe speciale de investigație pentru a analiza cazul și pentru a vedea dacă mecanismele de securitate ar fi trebuit să detecteze activitatea mai devreme.
Anthony Albanese a criticat faptul că oficialii au fost informați despre acest incident abia pe 10 septembrie, la câteva luni după ce acesta s-a produs. În prezent, autoritățile australiene desfășoară verificări suplimentare și pentru alte trei site-uri guvernamentale din domeniul sănătății. Scopul acestor investigații este de a stabili dacă și aceste platforme au fost afectate de acțiunile agentului digital de la OpenAI, într-un efort de a proteja infrastructura critică.
Dezbaterea privind controlul inteligenței artificiale este intensă la nivelul ONU, în timp ce lideri precum Dario Amodei sau Yoshua Bengio avertizează asupra riscurilor iminente. Sam Altman, directorul OpenAI, a solicitat cooperare internațională, susținând că deciziile de dezvoltare nu trebuie lăsate doar în mâinile companiilor tehnologice. În acest context, China a pledat pentru reguli clare, în timp ce Statele Unite s-au opus implementării unui sistem global de reglementare.
Evoluția tehnologiei AI aduce provocări noi pentru securitatea cibernetică globală, transformând modul în care statul trebuie să își protejeze datele. Incidentul din Australia demonstrează că riscul nu mai constă doar în conținutul generat de modele, ci și în capacitatea acestora de a interacționa direct cu sisteme informatice reale. Această nouă etapă a vulnerabilităților digitale necesită o revizuire a protocoalelor de securitate utilizate de instituțiile publice la nivel mondial.