Incidentele cibernetice care implică agenți AI ridică întrebări despre controlul acestor sisteme și despre natura vulnerabilităților apărute. Expertul Marius Leordeanu, specialist în domeniile AI și Computer Vision, analizează această dinamică în cadrul podcastului „Frontier Defense” (Ep. 21), găzduit de G4Media. Acesta respinge ideea unor scenarii orchestrate pentru a alimenta mituri tehnologice, subliniind că problemele nu provin din malițiozitate, ci din lipsa constrângerilor și din dorința de profit rapid.
Conform explicațiilor lui Marius Leordeanu, dezvoltatorii nu acționează cu intenții răutăcele, însă mecanismele economice impun un ritm de dezvoltare extrem de alert. Când recompensele financiare sunt masive, oprirea procesului de cercetare devine dificilă fără reglementări stricte sau intervenții externe. În acest context, impulsul de a genera venituri imediat depășește nevoia de a implementa măsuri de siguranță, deoarece profitul este direct proporțional cu viteza de lansare a noilor tehnologii pe piață.
Discursul despre superinteligență sau AGI (Inteligență Artificială Generală) funcționează ca un motor pentru acest flux de capital. Liderii marilor companii de tehnologie și politicienii au interesul de a amplifica narațiunea unei puteri tehnologice iminente, fapt ce ajută la creșterea cotațiilor la bursă și la obținerea unor comenzi de miliarde de dolari. Această cursă a capitalului face ca orice tentativă de a încetini cercetarea pentru audituri etice să fie văzută ca un dezavantaj competitiv direct.
„De ce ar fi interesat să stea mai mult să testeze, să analizeze, să oprească motoarele când vin atâția bani?”, întreabă profesorul. El subliniază că, în momentul în care conturile cresc datorită interesului general pentru tehnologie, este extrem de greu să se pună frână, mai ales când competitorii nu o fac. Marius Leordeanu menționează că, dacă o companie decide să pună frână prin reglementări, aceasta riscă să piardă teren în fața celorlalți jucători.
Mediul corporativ impune, de asemenea, o formă de tăcere strategică în interiorul marilor companii tech. Cercetătorii care încearcă să avertizeze asupra unor riscuri reale se pot confrunta cu cenzura comunicării, marginalizare sau chiar demitieri. Astfel, realitatea din spatele incidentelor cu AI nu ține de comploturi, ci de un ecosistem care alege accelerarea profitabilă în detrimentul precauției, fiind guvernat de principiul că urmează banii.
Marius Leordeanu este profesor de Computer Science la Universitatea Politehnica din București (UPB) și deține un doctorat în Robotică obținut la Carnegie Mellon University din SUA în anul 2009. Evoluția rapidă a tehnologiilor digitale și a inteligenței artificiale este un subiect de interes global, fiind însoțită de dezbateri intense privind necesitatea unor cadre legislative robuste pentru a preveni utilizarea necontrolată a algoritmilor în economie și societate.