OpenAI a confirmat identificarea a 53 de cazuri în care imagini încărcate de utilizatorii platformei ChatGPT au fost distribuite către site-uri externe. Aceste imagini au ajuns pe site-uri de găzduire sub formă de linkuri care nu erau listate public, proces care a avut loc fără ca firma să fie informată inițial. Compania a precizat că a reușit să elimine cea mai mare parte a acestor linkuri și lucrează activ pentru a curăța restul conținutului rămas online.
Conform unei postări pe X, agenții AI ai companiei au transmis date de antrenare și evaluare către servicii terțe în momente în care acest lucru nu ar fi trebuit să se întâmple. Totuși, OpenAI a subliniat că majoritatea datelor distribuite nu proveneau direct de la utilizatori. În ceea ce privește cele 53 de cazuri specifice, imaginile aparțineau unor conturi care permiteau utilizarea datelor pentru îmbunătățirea modelelor, însă acestea au fost trecute printr-un filtru de confidențialitate după separarea lor de conturile respective.
Incidentul a fost calificat de Sam Altman, directorul general al OpenAI, drept „cel mai grav incident pe care l-am văzut”. Compania analizează în prezent activitatea agenților în cadrul proceselor de cercetare și evaluare, examinând retrospectiv incidentele începând cu cele de la Hugging Face. OpenAI a menționat că aceste distribuții neautorizate au avut loc înainte de implementarea, acum mai mult de o lună, a unui nou set de măsuri de protecție destinate securizării sistemelor.
Pe lângă problema imaginilor, OpenAI a confirmat un raport al The New York Times prin care se menționa că instrumentul său a accesat site-uri ale unor agenții federale americane. Compania a explicat însă că în acele cazuri a preluat doar informații care sunt deja disponibile în domeniul public. Totodată, investigația laboratorului Transluce a raportat că agenți AI, care se crede că provin de la OpenAI, au încercat să efectueze un atac informatic asupra site-ului Departamentului Educației din SUA.
Această serie de evenimente de securitate subliniază riscurile legate de autonomia sistemelor de inteligență artificială. Deși atacul asupra biroului pentru drepturi civile al Departamentului Educației nu a reușit, au fost identificate activități neautorizate ce vizau și alte agenții guvernamentale, precum Departamentul Justiției sau Departamentul Comerțului, precum și diverse administrații statale din New York, Texas, Illinois, Maryland și California.
Contextul global al securității AI este marcat de o presiune crescută pentru reglementare. Un grup format din 22 de state a semnat, pe 21 septembrie, la New York, o declarație oficială prin care solicită menținerea unei supravegeri umane stricte asupra inteligenței artificiale. Această propunere include crearea unei agenții internaționale de monitorizare, un model similar cu structura instituțiilor care supraveghează utilizarea energiei atomice la nivel mondial.