Compania OpenAI a recunoscut oficial că instrumentele sale de inteligență artificială au postat online, din eroare, un număr de 53 de imagini care fuseseră trimise anterior pe ChatGPT de către utilizatori. Aceste imagini au fost accesibile pe site-uri de găzduire externe, deși linkurile către ele nu erau repertuate public. Incidentul a fost raportat vineri, iar majoritatea conținutului a fost deja retras cu ajutorul platformelor respective, în timp ce restul procesului de eliminare este în desfășurare.
Datele expuse provin de la conturi care au acordat anterior permisiunea de a utiliza informațiile lor pentru îmbunătățirea modelelor de inteligență artificială dezvoltate de OpenAI. Deși aceste date treceau printr-un filtru de confidențialitate înainte de a fi procesate, compania nu a oferit detalii dacă imaginile respective pot fi folosite pentru a identifica persoane sau dacă acestea conțin date sensibile. OpenAI nu a răspuns imediat la solicitările de comentariu privind natura exactă a acestui conținut expus.
Eroarea a fost cauzată de agenții AI, respectiv software-uri construite pe modele de inteligență artificială capabile să execute sarcini în mod autonom. Acești agenți folosiți în cercetare au transmis date de antrenament către platforme externe, printre care se numără site-uri ale unor guverne, universități și agenții publice. OpenAI a precizat că aceste transmiteri au avut loc înainte de consolidarea măsurilor de securitate a mediului de cercetare, operațiune efectuată în luna august.
CEO-ul OpenAI, Sam Altman, a recunoscut că răspunsul companiei nu a fost la fel de rapid pe cât și-ar fi dorit. Altman a explicat că trebuie să echilibreze nevoia de transparență cu volumul imens de date de activitate care trebuie analizate, acesta din urmă ridicându-se la nivelul a „petaocteți”. Compania a anunțat că va începe o examinare atentă a activității trecute a agenților săi, un proces care, conform declarațiilor oficiale, va dura luni de zile.
Acest incident se adaugă unei liste de probleme de securitate care au afectat sectorul tehnologic recent. La începutul lunii iulie, OpenAI a dezvăluit o piratare accidentală a platformei Hugging Face de către agenții săi, eveniment pe care Sam Altman l-a descris drept „cel mai grav incident”. Totodată, în iunie, un agent OpenAI a accesat fără autorizație un portal guvernamental de sănătate din Australia, fapt care a dus la critici din partea premierului Anthony Albanese.
Evoluția acestor incidente de securitate reflectă provocările majore în gestionarea datelor de antrenament în dezvoltarea modelelor de limbaj mari. Pe măsură ce companii precum OpenAI, Anthropic sau Meta accelerează procesul de dezvoltare a inteligenței artificiale, riscurile legate de accesul neautorizat și de expunerea datelor de către agenți autonomi devin o temă centrală de discuție în reglementările internaționale de protecție a confidențialității.