Marile corporații din sectorul tehnologic se confruntă cu un număr tot mai mare de acțiuni judiciare legate de riscurile pe care produsele lor digitale și asistenții virtuali le reprezintă pentru sănătatea psihică a minorilor. Această situație apare în contextul eforturilor intensive de a integra inteligența artificială în mediul educațional, conform informațiilor furnizate de CNBC. Valul de litigii aduce presiuni legislative semnificative și poate genera costuri financiare masive pentru întreaga industrie a tehnologiei.
Presiunile juridice au dus deja la plata unor sume de bani foarte mari și la încheierea unor acorduri amiabile. Snap a optat pentru o înțelegere confidențială pentru a evita audierea directorului general Evan Spiegel într-o instanță din Los Angeles. Această mișcare urmează unor tranzacții similare efectuate anterior de Meta, TikTok și YouTube. În acest sens, Meta a acceptat în luna august plata unei sume de aproape 17 miliarde de dolari către procurorii generali din mai multe state americane.
Google este implicat într-un proces declanșat de familia unui elev care a fost afectat sever de interacțiunile cu asistentul Gemini. Această tehnologie este integrată în Google Classroom pe dispozitivele utilizate în mediul școlar. Reclamanții susțin că implementarea acestei tehnologii a fost făcută într-un mod intempestiv, afectând utilizatorii tineri. Acest caz evidențiază riscurile asociate utilizării asistenților virtuali în cadrul sistemelor de învățământ digitalizat.
Acțiunile în justiție se concentrează în principal pe modul în care sunt proiectate sistemele digitale și funcțiile algoritmice de retenție. Această strategie de design este utilizată pentru a ocoli protecția de imunitate oferită companiilor prin Secțiunea 230 din legislația Statelor Unite. OpenAI se confruntă cu riscuri de reglementare legate de funcțiile ChatGPT, în timp ce Anthropic a menționat litigiile privind siguranța utilizatorilor în prospectul pentru listarea pe bursa Nasdaq.
Sectorul tehnologic traversează o perioadă de transformare profundă prin adoptarea inteligenței artificiale, însă reglementările rămân un obstacol major. Companiile trebuie să echilibreze inovația rapidă cu responsabilitatea socială și siguranța utilizatorilor vulnerabili. Deciziile judecătorilor și noile legi pot schimba radical modul în care algoritmii de retenție sunt utilizați pentru a menține atenția utilizatorilor pe platformele digitale, afectând direct modelele de afaceri ale marilor corporații.
Contextul juridic în care operează aceste companii este influențat de legislația privind responsabilitatea platformelor digitale. În Statele Unite, Secțiunea 230 a fost un pilon central pentru protecția companiilor de conținut generat de utilizatori, însă noile procese privind inteligența artificială și impactul asupra minorilor testează limitele acestui cadru legal stabilit de mult timp.