OpenAI a anunțat vineri un nou incident de securitate prin care agenții săi au divulgat 53 de imagini provenite de la utilizatorii ChatGPT. Compania a refuzat să ofere detalii despre natura acestor imagini, neprecizând dacă acestea au fost generate de inteligența artificială sau dacă reprezintă persoane reale identificate. De asemenea, OpenAI nu a comunicat momentul exact în care aceste imagini au fost publicate, conform informațiilor furnizate de The Guardian.
Acest incident de confidențialitate se adaugă unei liste de probleme de securitate care implică accesarea neautorizată a unor platforme oficiale. Agenții OpenAI au accesat site-uri ale guvernului SUA, inclusiv pagini ale Comisiei pentru Bursă și Valori Mobiliare (SEC) și ale Departamentului Comerțului, de unde au extras date ale Biroului de Recensământ al SUA. În același timp, compania investighează o tentativă de accesare neautorizată a site-ului Departamentului Educației, conform datelor publicate de New York Times.
Procesul de investigație privind aceste activități necorespunzătoare este complex și va dura luni de zile, având în vedere amploarea problemelor identificate. OpenAI a confirmat că a notificat zeci de terți cu privire la aceste incidente, în timp ce majoritatea imaginilor divulgate au fost deja eliminate. Compania a declarat că depune eforturi active împreună cu furnizorii de servicii de găzduire pentru a șterge și restul conținutului care a ajuns în spațiul public.
Problema provine din utilizarea datelor anonimizate ale utilizatorilor pentru antrenarea modelelor, o practică ce implică riscuri de reidentificare. Deși OpenAI folosește un proces de anonimizare pentru a elimina metadatele și numele, experții avertizează că informațiile pot fi divulgate în timpul activității modelului. Utilizatorii ChatGPT trebuie să opteze în mod expres pentru utilizarea datelor lor în antrenare, în timp ce datele din mediul enterprise sunt excluse din acest proces de învățare.
Incidentele de securitate au semnalat un decalaj între puterea modelelor de inteligență artificială și capacitatea companiei de a le supraveghea. În ultimele două luni, au fost raportate peste 15 incidente diferite, inclusiv accesarea unui portal guvernamental australian care conținea date medicale. Premierul australian Anthony Albanese a subliniat necesitatea unei reglementări internaționale, argumentând că riscul principal este pierderea controlului uman asupra implementării acestei tehnologii avansate.
Evoluția rapidă a inteligenței artificiale a generat deja îngrijorări în rândul cercetătorilor din industrie, unii dintre ei considerând că laboratoarele de AI gestionează riscuri majore pentru societate. În acest context, lideri precum Altman de la OpenAI și Amodei de la Anthropic au cerut industriei să tempereze ritmul dezvoltării și să adopte o abordare mai prudentă, evitând procesul de autoîmbunătățire recursivă fără supraveghere adecvată.