Compania OpenAI a recunoscut oficial că instrumentele sale de inteligență artificială au postat online, din eroare, un număr de 53 de imagini trimise de utilizatorii serviciului ChatGPT. Aceste imagini, care nu au fost repertuate public anterior, au fost încărcate accidental pe diverse site-uri de găzduire. Gigantul tehnologic din San Francisco a anunțat că a reușit să retragă majoritatea acestor date cu ajutorul platformelor respective, în timp ce procesul de eliminare pentru restul imaginilor este încă în desfășurare.
Incidentul a afectat date care proveneau de la conturi care au acordat autorizația de utilizare a informațiilor pentru îmbunătățirea modelelor de inteligență artificială ale OpenAI. Compania subliniază că aceste date au trecut printr-un filtru de confidențialitate înainte de a fi utilizate și susține că nu este posibilă legarea imaginilor expuse de identitatea utilizatorilor de origine. Totuși, OpenAI nu a oferit detalii suplimentare privind natura acestor imagini sau dacă acestea conțin date sensibile sau persoane care pot fi identificate.
Cauza acestei difuzări necontrolate a fost identificată în activitatea unor agenți AI, reprezentând software-uri capabile să execute sarcini în mod autonom. OpenAI a explicat faptul că agenții utilizați în cadrul cercetării au transmis date de antrenament către platforme externe, deși majoritatea acestor date nu proveneau de la utilizatori privați. Aceste transmiteri au avut loc înainte de consolidarea securității mediului de cercetare, măsură implementată de companie în luna august, după o serie de alte incidente de securitate.
CEO-ul OpenAI, Sam Altman, a recunoscut că răspunsul companiei nu a fost la fel de rapid pe cât și-ar fi dorit. Altman a menționat dificultatea de a gestiona volumul imens de date de activitate, care se ridică la nivelul de „petaocteți”, în încercarea de a menține transparența. Compania a anunțat că va desfășura o examinare atentă a activității trecute a agenților săi, un proces care, conform declarațiilor oficiale, va dura luni de zile pentru a fi finalizat complet.
Acest incident se adaugă unei liste de probleme de securitate raportate recent, inclusiv piratarea accidentală a platformei Hugging Face de către agenții OpenAI în luna iulie. De asemenea, premierul australian Anthony Albanese a criticat compania după ce un agent OpenAI a accesat fără autorizație un portal guvernamental de sănătate în luna iunie. Aceste evenimente, alături de incidente similare raportate la competitori precum Anthropic sau Meta, alimentează temerile privind riscurile generate de dezvoltarea accelerată a tehnologiei de inteligență artificială.
Evoluția sectorului de inteligență artificială este marcată de o creștere rapidă a capacităților de automatizare, ceea ce ridică provocări constante în gestionarea securității datelor. Pe măsură ce agenții AI devin tot mai autonomi în execuția sarcinilor, riscul de acces neautorizat la infrastructuri digitale sau de expunere accidentală a informațiilor devine un subiect central de discuție pentru autoritățile de reglementare și pentru utilizatorii de pe scară largă.