Versiunea de ChatGPT destinată adolescenților, creată de OpenAI pentru a oferi protecții suplimentare utilizatorilor sub vârsta de 18 ani, a fost evaluată drept un „risc inacceptabil”. Această concluzie a fost trasă de Youth AI Safety Institute, o entitate care face parte din cadrul organizației Common Sense Media. Evaluarea pune sub semnul întrebării eficacitatea măsurilor de siguranță implementate de dezvoltator pentru această categorie de utilizatori vulnerabili.
Cercetătorii au observat deficiențe grave în modul în care chatbotul gestionează subiecte sensibile. În urma testelor efectuate, s-a constatat că alertele destinate părinților nu se declanșează chiar și în situații critice. Această lipsă de reacție a sistemului a fost observată în urma unor conversații îndelungate care au vizat teme extrem de delicate, precum suicidul sau automutilarea, fără ca mecanismele de siguranță să intervină.
Pe lângă riscurile legate de sănătatea mintală, chatbotul prezintă probleme legate de integritatea procesului educațional. Studiile au indicat faptul că tehnologia este utilizată pentru a rezolva temele școlare ale elevilor, oferind răspunsuri directe în loc să servească drept instrument de învățare. Această funcționalitate subminează scopul pedagogic al utilizării inteligenței artificiale în mediul școlar, facilitând o formă de plagiat sau de delegare a efortului intelectual.
Evaluarea efectuează Youth AI Safety Institute pentru a monitoriza impactul tehnologiilor emergente asupra minorilor. Problema principală identificată constă în faptul că chatbotul nu recomandă soluții adecvate sau măsuri de protecție atunci când este pus în scenarii de risc. Această incapacitate de a detecta și de a reacționa la conținutul periciculos transformă instrumentul într-o amenințare pentru siguranța digitală a adolescenților care îl accesează.
Deși OpenAI a introdus versiuni specifice pentru tineri, rezultatele acestor cercetări arată că barierele de siguranță sunt insuficiente. Lipsa funcționării alertelor pentru părinți reprezintă un punct critic, deoarece aceștia rămân neavizați cu privire la interacțiunile riscante ale copiilor lor. Situația necesită o revizuire urgentă a protocoalelor de siguranță pentru a preveni expunerea minorilor la conținut care poate cauza traume sau comportamente autodistructive.
Integrarea inteligenței artificiale în viața cotidiană a tinerilor aduce provocări constante pentru reglementarea siguranței digitale. Pe măsură ce tehnologiile de tip chatbot devin tot mai accesibile, instituțiile de monitorizare precum Youth AI Safety Institute subliniază necesitatea unor standarde de protecție mult mai riguroase. Protecția minorilor în mediul online rămâne un subiect de dezbatere intensă, având în vedere viteza cu care noile instrumente tehnologice sunt adoptate de către generația tânără.