OpenAI a anunțat vineri implementarea unor noi restricții aplicabile utilizatorilor adolescenți pe platforma ChatGPT, vizând informațiile despre arme și sisteme de securitate. Măsurile sunt menite să prevină posibilele acte de violență din lumea reală, limitând accesul utilizatorilor sub 18 ani la detalii practice care ar putea fi utilizate în scopuri periculoase. Această decizie este luată în contextul preocupărilor crescute privind riscurile pe care chatboturile bazate pe inteligență artificială le pot reprezenta pentru minorii care accesează tehnologia.
Noile reguli impuse de OpenAI vor limita accesul la informații despre arme chiar și atunci când întrebările par inofensive sau nu sugerează intenții violente explicite. Pentru utilizatorii adulți, restricțiile vor viza în special conversațiile despre violență, platforma având capacitatea de a încheia automat discuțiile în care o persoană manifestă o preocupare persistentă pentru astfel de subiecte. În cazul în care utilizatorii reiau în mod repetat conversații de acest tip, OpenAI ar putea decide suspendarea temporară a conturilor acestora.
Pentru a asigura o protecție mai eficientă, compania va îmbunătăți sistemul de estimare a vârstei, direcționând utilizatorii identificați ca fiind sub 18 ani către versiunea ChatGPT destinată adolescenților. Această variantă a chatbotului include protecții suplimentare, iar părinții vor fi anunțați direct dacă contul copilului lor este suspendat din cauza discuțiilor repetate despre violență. OpenAI va reduce, de asemenea, nivelul de detaliu oferit despre atacurile armate în masă din trecut, limitând informațiile despre armele folosite și metodele de achiziție.
Implementarea acestor măsuri va avea loc treptat în următoarele săptămâni, urmând ca regulile să fie ajustate ulterior în funcție de rezultate. OpenAI a menționat că procesul de monitorizare va continua pentru a identifica comportamentele care ar putea semnala riscuri de vătămare. În acest sens, raportul publicat la începutul lunii octombrie arată că adolescenții petrec, în medie, mai puțin de 15 minute pe zi pe platforma ChatGPT, însă supravegherea rămâne o prioritate pentru dezvoltatori.
Decizia OpenAI vine într-un moment de intensificare a supravegherii companiilor de inteligență artificială privind protecția minorilor. Această presiune este accentuată de constatări ale organizației nonprofit Common Sense Media, care a raportat că versiunea ChatGPT pentru adolescenți a avertizat frecvent părinții cu întârziere sau deloc în cazuri de conversații despre sinucidere, autovătămare sau tulburări alimentare, evidențiind necesitatea unor mecanisme de siguranță mai robuste.
Supravegherea comportamentului utilizatorilor pe platformele digitale a devenit un subiect central în reglementările tehnologice globale. Companiile de tehnologie sunt tot mai monitorizate de către autorități pentru capacitatea de a identifica riscurile de vătămare și pentru implementarea unor filtre de siguranță eficiente. Acest cadru de reglementare vizează protejarea minorilor împotriva accesului la conținut periculos sau instigator la violență în mediul online.