Istoricul Yuval Noah Harari avertizează asupra unui viitor în care inteligența artificială va stabili reguli pe care oamenii nu vor mai avea capacitatea de a le înțelege. Într-un interviu acordat lui Daniel Stach în cadrul emisiunii Hyde Park Civilizace, difuzată de televiziunea publică cehă, autorul cărții „Sapiens” a folosit o metaforă dură pentru a descrie starea umanității. El susține că oamenii riscă să devină „vacile viitorului”, fiind subordonați unor sisteme invizibile.
Comparația cu animalele de fermă descrie pericolul de a trăi în cadrul unor sisteme economice și juridice complexe, fără a mai putea percepe mecanismele care ne determină viața. Așa cum o vacă vede persoana care o hrănește, dar nu poate înțelege tranzacția bancară prin care își schimbă proprietarul, oamenii ar putea pierde controlul asupra proceselor care îi influențează. Această lipsă de transparență ar putea duce la o dependență totală de algoritmi.
O distincție fundamentală făcută de Harari este trecerea de la tehnologiile care sunt simple instrumente la cele care devin agenți autonomi. Tehnologiile anterioare, precum bomba atomică sau tipografia, luau decizii doar la îndemâna oamenilor, fiind doar executante. În schimb, inteligența artificială are capacitatea de a lua decizii proprii și de a genera idei noi, putând crea conținut și alegând ce idei să disemineze fără îndrumare umană constantă.
Scenariul de risc nu implică neapărat armate de roboți, ci o ascensiune a puterii prin mecanisme administrative și birocratice. Sistemele create de inteligența artificială ar putea deveni atât de complexe în următorii zece sau douăzeci de ani, încât intervenția umană va deveni imposibilă. Această evoluție ar putea diminua capacitatea noastră de a contesta deciziile, deoarece procesele de calcul vor depăși înțelegerea cognitivă a individului.
Problema responsabilității afectează direct democrația, mai ales atunci când deciziile algoritmilor nu pot fi explicate. Harari menționează exemplul unei persoane care este refuzată pentru un credit bancar fără a primi un motiv clar, deoarece nimeni nu poate explica logica algoritmului. Deși proiectarea și controlul sistemelor rămân în prezent o responsabilitate umană, există riscul ca societatea să piardă controlul înainte de a conștientiza că regulile s-au schimbat.
Evoluția tehnologiei de tip AI este un subiect de dezbatere globală, având impact direct asupra structurilor de guvernare și a piețelor financiare. În timp ce dezvoltarea digitală accelerează, reglementările juridice și etice încearcă să țină pasul cu capacitatea de procesare a mașinilor. Această tranziție de la instrumente pasive la agenți activi reprezintă una dintre cele mai mari provocări pentru stabilitatea sistemelor sociale și economice contemporane.