Gigantul tehnologic OpenAI a anunțat vineri implementarea unor noi restricții destinate adolescenților care utilizează platforma ChatGPT. Măsurile vizează limitarea accesului acestor utilizatori la informații legate de arme, chiar și în situațiile în care întrebările formulate par a fi de natură inofensivă. Această decizie face parte dintr-un set de noi protocoale de protecție menite să prevină violența și să reducă riscurile pe care chatbot-urile le pot prezenta tinerilor.
Conform noilor reguli, informațiile practice despre arme și sistemele de securitate care ar putea fi utilizate în mod abuziv vor fi restricționate pentru adolescenți, indiferent dacă există sau nu semne de intenție violentă. Pentru toți utilizatorii platformei, ChatGPT va avea capacitatea de a încheia automat conversațiile în care detectează o obsesie pentru violență. În plus, OpenAI poate decide suspendarea temporară a conturilor utilizatorilor după ce acestea implică mai multe astfel de interacțiuni problematice.
Compania a îmbunătățit sistemul de estimare a vârstei pentru a putea redirecționa utilizatorii sub 18 ani către o experiență adaptată acestui segment de public. În cazul în care contul unui adolescent este suspendat din cauza discuțiilor repetate despre violență, OpenAI intenționează să notifice părinții acestora. Implementarea acestor măsuri de protecție va începe în următoarele săptămâni, urmând ca protocoalele să fie perfecționate în mod continuu de către echipa dezvoltatoare.
Restricțiile vor viza și accesul la detalii despre atacurile armate din trecut, în special în cazul atacurilor în masă. Pentru întregul segment de utilizatori, ChatGPT va limita furnizarea de informații despre tipurile de arme folosite în astfel de evenimente, precum și despre modul în care acestea au fost obținute. Această mișcare vine într-un context în care companiile de inteligență artificială sunt supuse unei supravegheri crescute privind rolul lor în detectarea amenințărilor de vătămare.
Datele recente arată că adolescenții petrec, în medie, sub 15 minute pe zi pe ChatGPT, conform primului raport al companiei privind utilizarea platformei de către această categorie. Totuși, raportul ONG-ului Common Sense Media, publicat la începutul lunii octombrie, a subliniat vulnerabilități ale sistemului actual. Acesta a indicat faptul că versiunea pentru adolescenți a ChatGPT avertiza părinții prea târziu sau deloc atunci când conturile gestionate de tineri purtau discuții despre sinucidere, automutilare sau tulburări alimentare.
Evoluția reglementărilor în domeniul inteligenței artificiale reflectă o presiune globală crescută asupra marilor companii tehnologice de a asigura siguranța utilizatorilor vulnerabili. Pe măsură ce chatbot-urile devin instrumente integrate în educație și viața cotidiană, autoritățile și organizațiile de monitorizare solicită mecanisme de control mai riguroase pentru a preveni accesul la conținut periculos sau pentru a identifica semnele timpurii ale unor comportamente autodistructive.