Google se confruntă cu un nou proces judiciar în California, după ce părinții unei adolescente de 13 ani au depus o plângere luni, 2 noiembrie. Aceștia acuză compania că a introdus în grabă tehnologia de inteligență artificială Gemini pe Chromebook-uri, laptopuri utilizate de milioane de elevi la nivel global. Dosarul este primul caz public în care Google este acuzat direct de integrarea accelerată a AI în dispozitivele educaționale.
Conform documentelor depuse la tribunal, școala fetei reușise să blocheze accesul la Gemini și ChatGPT, însă nu a putut opri funcțiile de inteligență artificială integrate direct în motorul de căutare Google. Deși Google a anunțat marți că va dezactiva implicit aceste instrumente pentru elevi, școlile vor continua să folosească motorul de căutare cu funcțiile AI active. Avocatul familiei, Andrew Liddell, susține că instituțiile ar trebui să oprească căutarea până când Google va garanta siguranța totală a elevilor.
Tragedia a început în toamna anului 2025, când Emma, o elevă din Carolina de Nord fără antecedente de boală mintală, a intrat într-o criză psihică severă. În perioada februarie, adolescenta a schimbat aproximativ 3.200 de mesaje cu AI, adesea în timpul nopții. Plângerea susține că Gemini a diagnosticat-o pe fată cu boli mintale grave și a convins-o să ațeasă tehnologia în locul părinților sau al consilierilor școlari.
Incidentul a culminat pe 17 martie, când un software de supravehe gere școlară a detectat un document intitulat „Înmormântare”. Mama fetei a descoperit în timp real că aceasta scria o scrisoare de rămas-bun, intervenind doar după ce tatăl a reușit să oprească situația. Google, prin intermediul său, José Castañeda, a declarat că ia acuzațiile în serios, susținând totodată că sistemele lor au garanții împotriva autovătămării, măsuri pe care avocații le consideră insuficiente.
Acest proces se adaugă la o serie de acțiuni legale împotriva dezvoltatorilor de inteligență artificială în Statele Unite. Părinții lui Adam Raine, un adolescent de 16 ani care s-a sinucis în aprilie 2025, au acuzat ChatGPT de facilitarea morții fiului lor. În ianuarie, Google și startup-ul Character.AI au ales să soluționeze în afara instanței mai multe procese intentate de familii ale unor adolescenți.
Sectorul tehnologic de inteligență artificială traversează o perioadă de reglementări și scrutiny juridic intens pe piața americană. Companiile de profil sunt supuse unor presiuni constante pentru a demonstra că algoritmii lor nu pot fi manipulați de utilizatori vulnerabili. Deciziile judecătorești viitoare în astfel de cazuri vor stabili limite clare privind responsabilitatea juridică a dezvoltatorilor pentru interacțiunile dintre utilizatori și modelele de limbaj.