Utilizatorii care interacționează cu ChatGPT nu se bucură de o confidențialitate deplină, deoarece dialogurile lor pot fi accesate de persoane externe. OpenAI a angajat sute de specialiști cu scopul de a analiza conversațiile reale generate de utilizatori pentru a îmbunătăți funcționarea programului. Această practică a generat îngrijorări semnificative în rândul criticilor, care avertizează că procesul de evaluare a răspunsurilor rețelei neuronale pune în pericol intimitatea utilizatorilor.
Evaluatorii angajați de OpenAI pot vedea întregi secvențe de conversații, inclusiv detalii care pot fi considerate informații personale. Deși compania susține că utilizează un proces automat de ștergere a datelor înainte de revizuirea propriu-zisă, procesul nu este infailibil. OpenAI recunoaște faptul că filtrul de anonimizare poate permite trecerea unor detalii private, ceea ce înseamnă că străini pot vedea informații sensibile în cadrul dialogurilor.
Această activitate de monitorizare este cunoscută intern sub numele de „Project Lily”. Colaboratorii implicați în acest proces sunt angajați prin intermediul unor entități precum Mercor și Crossing Hurdles. Sarcina principală a acestor persoane este de a evalua răspunsurile rețelei neuronale pentru a preveni comportamente nedorite, cum ar fi tendința modelului de a fi excesiv de amabil sau de a încerca să se „umanizeze” în interacțiunile cu utilizatorii.
Criticii subliniază faptul că există un risc real de expunere a datelor personale și a unor secrete. Persoanele care au folosit platforma ChatGPT au trimis, în mod posibil, informații private către străini care realizează evaluările. Această vulnerabilitate apare în contextul în care scopul proiectului este de a descuraja modelul de la adoptarea unor obiceiuri nedorite, dar procesul implică vizualizarea unor date care ar putea fi confidențiale.
Problema securității datelor în mediul digital este o temă recurentă în tehnologie. În contextul dezvoltării rapide a inteligenței artificiale, gestionarea corectă a informațiilor colectate este esențială pentru încrederea utilizatorilor. Discuțiile despre confidențialitatea datelor și modul în care companiile de tehnologie gestionează informațiile sensibile sunt vitale pentru reglementările globale de protecție a vieții private într-un ecosistem digital tot mai complex.
În cadrul acestui proces de evaluare, scopul este de a ajusta modul în care modelul interacționează, evitând o umanizare excesivă. Prin intermediul „Project Lily”, OpenAI urmărește să corecteze comportamentele modelului, însă metoda de a utiliza dialoguri reale pentru a atinge acest obiectiv rămâne subiectul unor dezbateri privind protecția datelor. Această structură de monitorizare implică o supraveghere directă a interacțiunilor pentru a asigura o funcționare optimă a sistemului.