OpenAI a anunțat implementarea unor noi reguli de siguranță menite să restricționeze accesul adolescenților la informații periculoase prin intermediul ChatGPT. Măsurile vizează în principal limitarea accesului utilizatorilor sub 18 ani la detalii practice despre arme și sisteme de securitate care ar putea fi utilizate în scopuri malițioase. Această decizie este luată chiar și în situațiile în care conversațiile purtate cu chatbotul nu indică, în mod evident, intenții violente din partea utilizatorului.
Pentru întregul segment de utilizatori, indiferent de vârsta acestora, platforma va introduce o funcție de încheiere automată a conversațiilor. Această acțiune va interveni atunci când sistemul detectează că o persoană manifestă o preocupare persistentă pentru violență. În plus, OpenAI are posibilitatea de a suspenda temporar conturile utilizatorilor care implică repetat astfel de discuții în cadrul interacțiunilor cu inteligența artificială, pentru a preveni escaladarea comportamentelor de risc.
Compania va îmbunătăți sistemul de estimare a vârstei pentru a identifica mai precis utilizatorii minori. Aceștia vor fi transferați automat către o versiune de ChatGPT dedicată adolescenților, care include protecții suplimentare față de versiunea standard. Un aspect important al noilor proceduri este notificarea părinților, care vor fi informați oficial în cazul în care contul copilului lor este suspendat din cauza discuțiilor repetate despre violență.
O altă schimbare majoră vizează modul în care platforma tratează informațiile despre atacurile armate în masă care au avut loc în trecut. OpenAI va limita nivelul de detaliu oferit despre aceste evenimente, reducând informațiile despre tipurile de arme folosite și despre metodele prin care autorii acestor atacuri au reușit să le procure. Implementarea acestor măsuri va avea loc treptat în următoarele săptămâni, urmând să fie ajustate ulterior în funcție de rezultate.
Decizia OpenAI vine după ce un raport publicat la începutul lunii octombrie a indicat faptul că adolescenții petrec, în medie, mai puțin de 15 minute pe zi pe platformă. Totodată, organizația nonprofit Common Sense Media a semnalat deficiențe în sistemul de avertizare pentru părinți, menționând că acesta a avertizat cu întârziere sau deloc în cazuri de discuții despre autovătămare sau tulburări alimentare.
Evoluția acestor reglementări interne reflectă o presiune crescută asupra companiilor de inteligență artificială de a asigura protecția minorilor. Supravegherea atentă a comportamentelor care pot indica riscuri de vătămare devine un standard necesar în industria tech, pe măsură ce chatboturile sunt integrate tot mai mult în viața cotidiană a tinerilor, necesitând mecanisme de control mai robuste și mai rapide.