OpenAI a anunțat implementarea unei noi tehnologii, denumită textGrain, care introduce un watermark invizibil în textele generate de modelele sale de inteligență artificială. Această măsură este luată pentru a respecta cerințele europene privind identificarea conținutului creat de AI. Implementarea va fi efectuată etapizat, iar utilizatorii eligibili din Uniunea Europeană pentru ChatGPT și Codex vor beneficia de această funcție în următoarele săptămâni.
Sistemul textGrain nu utilizează simboluri, etichete sau mesaje vizibile pentru utilizatori, ci introduce un semnal statistic invizibil prin modul în care modelul alege cuvintele. Un detector specializat poate căuta ulterior acest semnal pentru a estima dacă un fragment de text conține watermarkul OpenAI. Această metodă de identificare automată este o componentă esențială pentru a îndeplini normele impuse de EU AI Act, care obligă furnizorii de inteligență artificială generativă să facă textele identificabile.
Eficacitatea tehnologiei depinde în mod semnificativ de lungimea și tipul conținutului analizat. La o rată de rezultate fals pozitive de 1%, detectorul a identificat watermarkul în aproximativ 80% dintre textele de 200 de tokeni, însă performanța crește la 95% pentru pasaje de 400 de tokeni. Totuși, modificarea textului reduce drastic șansele de detectare; înlocuirea a doar 10% dintre cuvinte cu sinonime scade rata de detectare de la 92% la 66%, iar la un sfert de cuvinte modificate, aceasta scade la 17%.
OpenAI avertizează că sistemul nu este o metodă infailibilă și nu oferă garanții privind corectitudinea informațiilor. Detectarea semnalului nu poate indica dacă un text este adevărat, fals sau înșelător și nu stabilește nici cine deține textul sau cine este responsabil pentru conținut. De asemenea, watermarkul nu identifică utilizatorul, contul sau promptul utilizat. Din aceste motive, detectorul nu va fi disponibil publicului larg, fiind oferit inițial doar cercetătorilor și organizațiilor specializate aprobate de companie.
Absența unui watermark detectabil nu reprezintă o dovadă că un text a fost scris de un om, deoarece materialele generate de AI pot fi prea scurte, traduse sau modificate pentru a păstra semnalul. OpenAI a precizat că sistemul va fi ajustat pe măsură ce tehnologia și standardele de reglementare evoluează. Implementarea inițială pentru ChatGPT și Codex va fi limitată la Uniunea Europeană, oferind clienților API din întreaga lume posibilitatea de a opta pentru această funcție începând cu data de 5 octombrie.
Reglementările europene privind inteligența artificială, precum EU AI Act, vizează stabilirea unui cadru de siguranță și transparență pentru utilizatorii din Uniunea Europeană. Aceste norme impun furnizorilor de tehnologii avansate să asigure o trasabilitate a conținutului digital, prevenind astfel răspândirea dezinformării prin conținut generat automat care poate fi confundat cu cel uman, obligând companiile să adopte soluții tehnice de marcaj.