Sistemele judiciare globale traversează o transformare tehnologică fără precedent, pe măsură ce instanțele supraaglomerate apelează la inteligența artificială pentru a gestiona volumul uriaș de documente și fluxurile administrative. Deși promisiunea unei eficiențe sporite este prezentă, delegarea unor atribuții de justiție către tehnologie ridică probleme etice profunde. Există riscul ca înlocuirea discernământului uman cu formule matematice să fragilizeze pilonii fundamentali ai statului de drept, precum echitatea, transparența și dreptul la un proces imparțial.
Unul dintre cele mai mari pericole este perpetuarea prejudecăților prin antrenarea algoritmilor pe date istorice care conțin inechități. În Statele Unite, algoritmul COMPAS, utilizat pentru evaluarea riscului de recidivă, a fost criticat după ce o investigație ProPublica a arătat că acuzațiile de culoare erau clasificate eronat cu un risc ridicat de recidivă într-o proporție aproape dublă față de acuzațiile albi. Acest caz a ajuns în fața Curții Supreme din Wisconsin, în procesul State v. Loomis, punând sub semnul întrebării constituționalitatea delegării deciziei umane către un cod software.
Lipsa de transparență a algoritmilor de învățare profundă, cunoscută sub numele de problema „cutiei negre”, reprezintă un obstacol juridic major. Modul în care o aplicație de IA corelează variabilele pentru a ajunge la o recomandare este adesea imposibil de decodat, chiar și pentru dezvoltatori. Această opacitate intră în contradicție directă cu dreptul la un proces echitabil, deoarece o hotărâre judecătorească trebuie motivată în detaliu. Dacă logica instrumentului IA nu poate fi explicată, dreptul la apărare poate deveni o iluzie.
Eroziunea raționamentului uman este accentuată de fenomenul de „halucinații” ale inteligenței artificiale, care poate inventa fapte sau decizii inexistente. În cazul Whiting v. City of Athens, avocați au fost amendați cu zeci de mii de dolari după ce au depus documente cu citate juridice fictive generate de IA. Similar, Curtea Supremă din India a intervenit după ce un magistrat a integrat în hotărârea sa patru decizii judecătorești complet fictive, obținute prin intermediul unui instrument de IA, avertizând strict asupra utilizării neautorizate a acestor documente.
Tehnologia de tip deepfake amenință integritatea probelor digitale, precum înregistrările audio sau video, în litigiile comerciale sau de dreptul familiei. Instanțele sunt obligate să aloce resurse masive pentru verificări tehnice, deoarece conținutul poate fi fabricat integral pentru a simula recunoșteri de datorii sau abuzuri. Pentru a evita transformarea tribunalelor în centre de calcul lipsite de echitate, implementarea IA trebuie să respecte principiul controlului uman obligatoriu, menținând tehnologia ca un simplu instrument administrativ, nu ca pe un decident final.
În cadrul sistemelor juridice moderne, reglementările europene subliniază importanța menținerii unui control uman asupra proceselor decizionale. Această abordare, cunoscută sub termenul de „human-in-the-loop”, asigură faptul că responsabilitatea morală și raționamentul juridic rămân exclusiv în prerogativele magistraților. Astfel, se încearcă echilibrarea între nevoia de optimizare a logisticii judiciare, precum indexarea și arhivarea, și protejarea drepturilor fundamentale ale cetățenilor în fața automatizării complete.