Un medic din Aachen, Germania, a reușit să obțină o decizie judecătorească împotriva Google, după ce sistemul de inteligență artificială al companiei a generat informații false și denigratoare despre persoana sa. Evenimentul a fost descoperit la sfârșitul lunii august, când un coleg i-a semnalat că, la căutarea numelui său împreună cu termenul „suspendare”, Modul AI furnizează detalii inventate despre o supusă acuzație de agresiune sexuală asupra unei secretare.
Informațiile furnizate de inteligența artificială păreau extrem de detaliate și realiste, menționând o suspendare din februarie 2024, o condamnare la opt luni cu suspendare și existența unor mărturii depuse de foste angajate. Totuși, întregul scenariu, care includea și detalii despre o înțelegere la instanță și o indemnizație de plecare, era o confuzie generată de algoritm între identitatea medicului și cazul unui alt fost profesor universitar. Această eroare de tip „halucinație” a pus în pericol direct reputația profesională a medicului, care a ocupat funcția de medic-șef la o clinică universitară din Aachen.
Procesul juridic a început imediat după ce doctorul a contactat Google pentru ștergerea datelor, însă compania a refuzat inițial să ia măsuri. După ce avocatul medicului a strâns dovezi și a trimis o somație oficială, tribunalul a emis o ordonanță de urgență pe 24 septembrie. Judecătorii au decis că Google nu mai are voie să emită aceste texte mincinoase, deoarece ele pot distruge onoarea profesională a oricărei persoane, iar pentru fiecare încălcare a ordonanței, compania riscă o amendă de până la 250.000 de euro.
Google a încercat să se apere susținând că sistemul doar redirecționează utilizatorii către informații publicate de alții pe internet, însă instanța a respins această argumentare. Judecătorii au argumentat că entitatea care oferă răspunsuri scrise de AI răspunde pentru conținutul generat, considerând că Google are capacitatea de a verifica informațiile prin compararea lor cu sursele originale. Această poziție juridică a fost susținută și de un precedent de la un tribunal din München, unde s-a stabilit că AI-ul creează afirmații noi, proprii, folosind conținutul altor site-uri.
În contextul tehnologic actual, modul în care algoritmii de inteligență artificială procesează și sintetizează datele de pe internet poate duce la erori grave de identificare, în special în cazul omonimilor. Rezumatele AI apar tot mai des deasupra rezultatelor de căutare, oferind răspunsuri directe care pot induce în eroare utilizatorii despre istoricul profesional al unei persoane. Această problemă ridică semne de întrebare privind responsabilitatea juridică a marilor companii de tehnologie pentru acuratețea informațiilor prezentate prin intermediul modelelor de limbaj.
În România, protecția reputației este reglementată prin Codul civil, care permite solicitarea intervenției instanței pentru a opri orice atingere adusă onoarei. Persoanele care se confruntă cu astfel de situații pot urma pași similari cu cei ai medicului din Germania: colectarea dovezilor prin capturi de ecran, trimiterea unei cereri oficiale către furnizorul de tehnologie și, în cazul în care aceasta nu răspunde, inițierea unei acțiuni în instanță prin intermediul unui avocat.