OpenAI va implementa, în următoarele săptămâni, un sistem de marcaj invizibil pentru textele generate de ChatGPT și Codex destinate utilizatorilor din Uniunea Europeană. Această nouă tehnologie, numită textGrain, are scopul de a permite identificarea automată a conținutului produs de inteligența artificială, venind în întâmpinarea noilor reglementări europene privind transparența acestor procese. Măsura va fi aplicată tuturor utilizatorilor din UE, indiferent de tipul de abonament pe care îl dețin la platformele companiei.
Sistemul textGrain funcționează prin modificarea controlată a alegerilor statistice pe care modelul de inteligență artificială le face în momentul formulării textului. Rezultatul acestui proces este un tipar specific, care nu poate fi observat de către un cititor prin simpla lectură a unui document sau a unui articol. Totuși, acest semnal ascuns poate fi analizat ulterior de către un software specializat, care va verifica dacă textul conține marcajul specific OpenAI.
Deși tehnologia este un pas important spre transparență, OpenAI subliniază că sistemul nu este infailibil și performanța sa variază în funcție de lungimea textului. În cazul documentelor scurte, rata de identificare este estimată la aproximativ 80%, însă intervențiile manuale ale unui utilizator pot reduce semnificativ aceste șanse. Mai mult, un rezultat pozitiv al detectorului nu poate demonstra cu exactitate cât dintr-un text a fost scris de AI și cât a fost redactat de un om.
Implementarea acestui marcaj tehnic este strâns legată de obligațiile de transparență impuse prin AI Act. Autoritatea Națională pentru Administrare și Reglementare în Comunicații explică faptul că, pentru sistemele care generează conținut sintetic, regulile europene impun marcarea acestuia pentru a putea fi identificat ca fiind produs sau modificat artificial. Este important de menționat că acest watermark invizibil este destinat identificării automate și nu înlocuiește eventualele mențiuni vizibile necesare în anumite contexte.
Pentru a asigura o implementare sigură, OpenAI pregătește un instrument de verificare care va fi disponibil inițial doar cercetătorilor și organizațiilor de specialitate aprobate. Această etapă are scopul de a evalua și îmbunătăți tehnologia înainte de o utilizare mai largă. Compania intenționează să ofere tehnologia de detectare în regim open-source, permițând dezvoltatorilor și cercetătorilor să contribuie la optimizarea sistemului pentru diverse scenarii de utilizare.
Această inițiativă de reglementare se încadrează în cadrul mai larg al legislației europene privind inteligența artificială, care vizează controlul conținutului sintetic. În Uniunea Europeană, reglementările impun standarde stricte pentru a asigura că utilizatorii pot distinge între informațiile create de oameni și cele generate artificial. Astfel, transparența devine un element central în gestionarea riscurilor asociate cu dezvoltarea rapidă a modelelor de limbaj mari.