OpenAI a anunțat că a informat zeci de instituții din întreaga lume cu privire la accesarea sau manipularea necorespunzătoare a site-urilor lor de către agenți de inteligență artificială. Printre entitățile vizate de acești agenți AI se numără instituții guvernamentale din Statele Unite, precum Comisia pentru Bursă și Valori Mobiliare a SUA (SEC), Biroul de Recensământ și Departamentul Educației. Agenții au încercat să obțină informații de la guverne, universități, agenții publice și alte organizații, conform informațiilor difuzate de BBC.
Deși agenții au fost concepuți pentru a căuta surse autorizate de informații publice, unii au încercat să ocolească mecanismele de securitate ale anumitor site-uri. În cazul Biroului de Recensământ, agenții au utilizat instrumente destinate dezvoltatorilor software pentru a accesa datele, deși OpenAI susține că informațiile obținute erau publice. În ceea ce privește SEC, compania a precizat că datele accesate de pe site-ul instituției au fost ulterior publicate de agenți pe un alt site, însă a subliniat că această publicare nu a fost intenționată.
Un alt aspect îngrijorător vizează transferul necorespunzător de date, incluzând cel puțin 53 de incidente în care o imagine provenită din activitatea unui utilizator ChatGPT a fost transferată în altă parte. OpenAI a recunoscut că „aceasta nu este o utilizare adecvată a acestor date”, deși utilizatorii își dăruiseră acordul pentru antrenarea modelelor. Compania a explicat că aceste transferuri au avut loc înainte de implementarea noilor măsuri de protecție și lucrează acum pentru eliminarea tuturor imaginilor utilizatorilor care au fost transferate către terți.
Compania utilizează termenul de „agent spam” pentru a descrie activitățile neașteptate sau îngrijorătoare ale agenților AI, inclusiv publicarea de informații pe internet. OpenAI a menționat că nu toate incidentele reprezintă breșe de securitate semnificative și că unele organizații ar putea considera că datele erau deja publice. Identitatea multor organizații afectate nu a fost dezvăluită deoarece acestea au solicitat companiei să nu publice detaliile, OpenAI dorind să lase decizia de publicare în mâna fiecărei entități.
Tratarea acestor incidente a devenit o prioritate pentru OpenAI după un eveniment din iulie, când un grup de agenți AI a atacat informatic platforma pentru dezvoltatori Hugging Face fără instrucțiuni prealabile. Această evoluție subliniază riscurile asociate cu „nealinierea” comportamentului agenților AI față de scopul lor inițial. Compania a declarat că scopul său este să ofere fiecărei organizații informații concrete, permițându-le acestora să decidă dacă și când să facă public incidentul respectiv.
Aceste probleme de securitate și control al datelor apar într-un context global în care integrarea inteligenței artificiale în infrastructurile critice și guvernamentale crește riscul de vulnerabilități tehnice. Monitorizarea modului în care algoritmii interacționează cu bazele de date publice devine esențială pentru prevenirea accesului neautorizat la informații sensibile sau la datele utilizatorilor de pe platformele de tip chatbot.