OpenAI a anunțat vineri, 30 octombrie, implementarea unor noi reguli de utilizare pentru ChatGPT, menite să limiteze accesul adolescenților la informații practice despre arme și sisteme de securitate. Măsurile vizează protejarea minorilor sub 18 ani prin restricționarea detaliilor tehnice care ar putea facilita acte de violență. Noua strategie include și identificarea comportamentelor care pot indica un risc de violență în lumea reală, aplicând reguli stricte chiar și în cazul unor solicitări care par inofensive.
Noile proceduri vor permite platformei să întrerupă automat anumite conversații și să suspende temporar conturile utilizatorilor care insistă repetat pe subiecte legate de violență. Pentru a asigura o aplicare corectă, OpenAI va utiliza un sistem consolidat de estimare a vârstei, care analizează tiparele de comportament pentru a identifica utilizatorii minori. Aceștia vor fi transferați către o experiență ChatGPT special destinată adolescenților, ce include protecții suplimentare, în timp ce părinții vor fi informați în cazul suspendării conturilor copiilor.
Restricțiile vor afecta și modul în care ChatGPT gestionează informațiile despre atacurile armate în masă din trecut, o măsură care se va aplica tuturor utilizatorilor, indiferent de vârstă. Compania va limita detaliile despre echipamentele folosite de atacatori sau modalitățile de procurare a armelor, pentru a evita amplificarea notorietății autorilor. Totuși, accesul la informații despre prevenirea violenței, recunoașterea semnalelor de avertizare și sprijinirea victimelor va rămâne nelimitat, menținând echilibrul între documentare și siguranță.
Dezvoltarea acestor mecanisme de intervenție se va face în colaborare cu specialiști în sănătate mintală și prevenirea violenței, pentru a identifica semnalele de avertizare cât mai devreme. OpenAI a dezvăluit că, în trimestrul al treilea din 2026, a transmis autorităților peste 200 de sesizări privind amenințări iminente de violență. Pentru a asigura transparența, compania va publica rapoarte periodice de siguranță, începând cu începutul anului 2027, care vor analiza activitățile din a doua jumătate a anului 2026.
Utilizatorii adulți care sunt identificați în mod eronat ca fiind minori vor putea să își confirme vârsta printr-un proces de verificare realizat cu ajutorul partenerului Persona. Această măsură este necesară pentru a evita blocarea nejustificată a accesului la funcționalitățile standard. OpenAI a menționat că noile restricții vor fi introduse treptat în următoarele săptămâni, compania urmând să monitorizeze rezultatele și să ajusteze sistemele de protecție pe măsură ce colectează date suplimentare despre interacțiunile utilizatorilor.
Decizia OpenAI vine într-un context de creștere a supravegherii asupra siguranței minorilor pe platformele de inteligență artificială. Recent, organizația Common Sense Media a evaluat versiunea ChatGPT pentru adolescenți, raportând că sistemul de notificare a părinților nu a funcționat optim în teste legate de subiecte precum autovătămarea. OpenAI a contestat aceste concluzii, susținând că testele nu reflectă modul real de funcționare al măsurilor sale de protecție.