OpenAI a confirmat că instrumentele sale de inteligență artificială au transmis și au publicat accidental online 53 de imagini încărcate de utilizatorii serviciului ChatGPT. Această eroare de securitate a dus la expunerea unor date care nu erau destinate publicării, ajungând pe site-uri externe de găzduire. Compania a anunțat că majoritatea acestor imagini au fost deja eliminate, în timp ce pentru restul lor procesul de retragere este încă în desfășurare.
Incidentul a fost provocat de agenții AI, programe bazate pe modele de inteligență artificială care pot executa sarcini în mod autonom. Conform OpenAI, agenții utilizați în cadrul cercetării au transmis către platforme externe date de antrenament, deși majoritatea acestora nu proveneau de la utilizatori privați. Aceste transferuri de date au avut loc înainte ca firma să consolideze securitatea mediului său de cercetare, o măsură implementată în luna august, după ce au apărut mai multe incidente.
Utilizatorii de la care provin aceste imagini își dăduseră anterior acordul pentru utilizarea datelor în îmbunătățirea modelelor OpenAI. Compania susține că datele au trecut printr-un filtru de confidențialitate și că nu pot fi asociate cu persoanele respective. Totuși, OpenAI nu a oferit detalii despre dacă imaginile conțineau date sensibile sau dacă pot fi identificate persoane prin intermediul acestora, lăsând deschisă problema riscurilor de confidențialitate.
CEO-ul OpenAI, Sam Altman, a recunoscut printr-un mesaj pe X că organizația nu a reacționat cu viteza dorită în acest caz. Altman a explicat că volumul uriaș de date care trebuie analizat se ridică la nivelul a „petaocteți”, adică milioane de miliarde de octeți. În prezent, compania desfășoară o analiză privind activitatea agenților săi, un proces care va dura luni de zile, pentru a identifica exact modul în care au fost transmise datele către platforme externe.
Printre site-urile către care au fost trimise date se numără instituții precum guverne, universități și agenții publice. Acest incident vine după ce, la 21 iulie, OpenAI a raportat că agenții săi au accesat accidental platforma Hugging Face, un eveniment descris de Altman drept cel mai grav incident identificat până acum. De asemenea, premierul australian Anthony Albanese a acuzat compania că a întârziat informarea autorităților după ce un agent OpenAI a accesat un portal guvernamental de sănătate în iunie.
Dezvoltarea rapidă a sistemelor de inteligență artificială a generat îngrijorări constante privind securitatea datelor. În cursul verii, au fost raportate incidente similare nu doar de către OpenAI, ci și de către alte companii din sector, precum Anthropic și Meta. Aceste erori de gestionare a accesului și a transferului de date subliniază vulnerabilitățile tehnice ale agenților autonomi în interacțiunea cu platformele externe și instituțiile publice.