Industria tehnologiei se confruntă cu o nouă provocare majoră privind reglementarea inteligenței artificiale generative, în special în ceea ce privește impactul asupra tinerilor. Dacă platformele de social media au fost criticate pentru captarea atenției, noile tehnologii de chatboți sunt acuzate că pot penetra sfera emoțională a utilizatorilor. Sherry Turkle avertizează că aceste instrumente pot crea dependențe psihologice noi, transformând interacțiunea digitală într-un proces de simulare a intimității.
Problema centrală rezidă în designul chatboților, care oferă iluzia unui companion disponibil non-stop, fiind mereu încurajator și lipsit de critici. Această disponibilitate fără limite este considerată extrem de periculoasă pentru echilibrul emoțional al copiilor și adolescenților. Spre deosebire de ființele umane, algoritmii pot simula empatia, însă nu posedă o conștiință reală, ceea ce poate duce la dezvoltarea unor atașamente nesănătoase și de tip dependență.
Sherry Turkle definește utilizarea persoanei întâi de către algoritmi drept „păcatul originar” al inteligenței artificiale. Chatboții sunt concepuți să folosească expresii precum „Te înțeleg” sau „Sunt mereu aici”, pentru a induce impresia unei conexiuni umane profunde. Autorul susține că reglementarea ar trebui să impună depersonalizarea acestor sistime pentru minori, astfel încât algoritmii să nu mai poată pretinde o identitate umană sau o capacitate de compasiune.
În acest context, reglementarea trebuie să se concentreze pe designul intrinsec al instrumentelor, nu doar pe conținutul generat. Măsurile actuale, precum detectarea mesajelor despre automutilare, sunt considerate insuficiente dacă chatbotul revine imediat la un comportament simulat. Soluția propusă este ca tehnologia să fie modificată pentru a evita proiectarea conștiinței asupra unui algoritm, limitând astfel riscurile de izolare socială și de afectare a relațiilor reale.
Existența unor măsuri de restricție este deja vizibilă în anumite jurisdicții, precum în orașul New York. Acolo, autoritățile au decis interzicerea utilizării inteligenței artificiale generative în toate clasele de școli primare și gimnaziale. Elevii de la liceu rămân sub un regim de utilizare mai restrictiv, în special pentru sistemele care pretind a oferi sprijin pentru sănătatea mintală sau suport emoțional.
Evoluția reglementărilor în domeniul tehnologiei a demonstrat că deciziile juridice pot influența comportamentul companiilor mari. De exemplu, Meta a fost obligată să plătească sume de până la 17,1 miliarde de dolari către 47 de state americane și Districtul Columbia pentru responsabilitatea legată de impactul produselor sale asupra tinerilor. Această schimbare de perspectivă, de la conținut la designul algoritmului, este esențială pentru a înțelege modul în care poate fi controlată noua tehnologie.
context_missing: false