OpenAI a anunțat implementarea unor noi restricții destinate utilizatorilor adolescenți, vizând limitarea accesului la informații despre arme pe platforma ChatGPT. Măsura este luată într-un context în care companiile de inteligență artificială sunt supuse unei supravegheri crescute privind riscurile pe care chatbot-urile le reprezintă pentru tineri. Compania intenționează să restricționeze detaliile practice despre arme și sisteme de securitate care ar putea fi utilizate în mod abuziv, chiar și în absența unor semne clare de intenție violentă.
Pentru întreaga bază de utilizatori, OpenAI va impune limitări specifice privind informațiile despre atacurile armate din trecut, cu un accent deosebit pe evenimentele de tip atac în masă. Restricțiile vor viza detalii tehnice despre armele utilizate în aceste incidente, precum și procedurile prin care acestea au fost obținute. În plus, sistemul va putea încheia automat orice conversație în care utilizatorul pare să manifeste o obsesie pentru violență, oferind companiei posibilitatea de a suspenda temporar conturile care încalcă aceste reguli.
În cadrul noilor proceduri, OpenAI va îmbunătăți sistemul de estimare a vârstei pentru a redirecționa utilizatorii sub 18 ani către o experiență adaptată nevoilor adolescenților. Dacă un cont de adolescent va fi suspendat din cauza discuțiilor repetate despre violență, compania a promis că va notifica părinții acestora. Implementarea acestor măsuri de protecție va începe în următoarele săptămâni, urmând ca procesul de securitate să fie perfecționat în mod continuu de către echipa tehnică.
Datele interne ale companiei arată că adolescenții petrec, în medie, mai puțin de 15 minute pe zi pe ChatGPT, conform primului raport oficial privind utilizarea platformei de către această categorie de vârstă. Această statistică vine într-un moment de presiune pentru dezvoltatorii de AI, care trebuie să echilibreze utilitatea tehnologiei cu necesitatea de a detecta și preveni amenințările de vătămare sau comportamentele periculoase în mediul digital.
Decizia OpenAI vine și ca un răspuns la criticile externe privind siguranța minorilor în mediul online. Un raport al ONG-ului Common Sense Media, publicat la începutul lunii octombrie, a evidențiat deficiențe în versiunea pentru adolescenți a ChatGPT. Conform acestui document, sistemul avertiza părinții prea târziu sau deloc atunci când conturile tinerilor implicau conversații despre subiecte sensibile, precum sinuciderea, automutilarea sau tulburările alimentare.
Evoluția reglementărilor în domeniul inteligenței artificiale reflectă o preocupare globală pentru gestionarea riscurilor psihologice și fizice pe care algoritmii le pot amplifica. Pe măsură ce modelele de limbaj devin tot mai accesibile, presiunea asupra companiilor de a implementa filtre de siguranță riguroase crește, transformând detectarea conținutului violent într-o prioritate operațională pentru toți jucătorii majori din sectorul tehnologic.