OpenAI a anunțat implementarea unor marcaje invizibile în textele produse de ChatGPT, o măsură luată pentru a asigura conformitatea cu noile reguli stabilite de Uniunea Europeană. Această inițiativă vizează capacitatea de a diferenția conținutul generat de inteligența artificială de cel scris de oameni. Compania americană va aplica aceste marcaje atât în textele simple, cât și în codul sursă produs de soluțiile de programare ale platformei sale.
Tehnologia utilizată pentru acest proces de identificare este numită textGrain. Aceasta funcționează prin inserarea unor semne invizibile care pot fi recunoscute ulterior de către un detector specializat. OpenAI susține că textGrain este o soluție mai performantă comparativ cu alte sisteme de marcare existente pe piață, însă admite că nu poate oferi garanția unei recunoașteri perfecte în toate scenariile de utilizare ale utilizatorilor.
Eficacitatea sistemului variază în funcție de tipul de conținut procesat de utilizatori. În cazul textelor scurte, OpenAI estimează că rata de succes a identificării va fi de aproximativ 80%. Totuși, procesul devine mult mai complex atunci când textele generate de AI sunt supuse unor modificări sau prelucrări ulterioare de către oameni, situație în care probabilitatea de detectare a marcajelor scade semnificativ față de nivelul inițial.
Pentru a stimula dezvoltarea acestor instrumente de control, OpenAI a declarat că va pune la dispoziție sistemul de detectare sub licență open-source. Această decizie permite altor dezvoltatori sau organizații să testeze și să îmbunătățească tehnologia pentru nevoi specifice. Scopul este de a rafina capacitatea de identificare, reducând erorile în care sistemul ar putea confunda textele scrise de oameni cu cele produse de inteligența artificială.
Această mișcare a OpenAI urmează o tendință similară observată la nivelul industriei, similar cu abordarea adoptată anterior de Anthropic. Implementarea unor astfel de mecanisme de siguranță este o componentă centrală în cadrul reglementărilor europene care vizează transparența algoritmilor. Companiile de tehnologie sunt presate să ofere soluții care să permită utilizatorilor și autorităților să monitorizeze sursa conținutului digital într-un mediu tot mai inundat de informații automate.
Reglementările Uniunii Europene privind inteligența artificială impun standarde stricte de transparență pentru a preveni dezinformarea și pentru a proteja integritatea proceselor digitale. Bruxelles-ul a continuat să prezinte propuneri pentru gestionarea riscurilor tehnologice, încercând să echilibreze inovația cu necesitatea de a avea mecanisme clare de identificare a conținutului sintetic în spațiul economic european.