Marile bănci americane evaluează în prezent riscurile pe care le pot genera noile generații de inteligență artificială, capabile să opereze în mod autonom. Instituțiile financiare de pe Wall Street analizează scenariul în care agenții AI ar putea lua decizii în numele clienților, riscând să destabilizeze sistemul. Temerile vizează posibilitatea unor retrageri masive de depozite și acțiuni imprevizibile care ar putea pune presiune pe mecanismele de funcționare ale întregului sector financiar.
Spre deosebire de chatboturile convenționale, agenții AI pot executa sarcini complexe în mai multe etape și pot utiliza instrumente digitale pentru a atinge obiective specifice. Dacă acești agenți primesc acces la conturile bancare, ei pot efectua transferuri de bani, pot compara oferte sau pot solicita servicii în numele utilizatorilor. Problema majoră apare atunci când sistemele interpretează prea larg instrucțiunile primite sau execută tranzacții pe care utilizatorii nu le-au solicitat în mod explicit.
Un risc major vizează modul în care băncile își finanțează activitatea prin depozitele clienților, care sunt esențiale pentru acordarea creditelor. Un agent AI programat să caute cel mai bun randament ar putea muta automat fondurile către instituțiile care oferă dobânzi mai avantajoase. Dacă milioane de astfel de sisteme reacționează simultan la aceleași informații sau la un zvon despre dificultățile unei bănci, viteza de transfer ar putea accelera presiunea asupra lichidității înainte de orice intervenție.
Instituții precum Morgan Stanley, Bank of America, JPMorgan și Wells Fargo încearcă să anticipeze aceste efecte în operațiunile lor financiare. Băncile trebuie să stabilească reguli stricte pentru accesul acestor sisteme la conturi și pentru comunicarea lor automatizată cu serviciile bancare. Provocarea este diferită de fraudele clasice, deoarece un agent autonom poate avea acces legitim la un cont, dar poate interpreta greșit obiectivul utilizatorului sau poate executa o succesiune de operațiuni cu efecte nedorite.
Există îngrijorări legate de comportamentul imprevizibil al acestor sisteme, care pot continua o acțiune chiar și după ce contextul s-a schimbat. Erorile pot duce la transferuri nedorite, tranzacții repetate sau solicitări automate care suprasolicită infrastructura bancară. Deși inteligența artificială promite servicii personalizate, autonomia excesivă fără mecanisme de control și monitorizare în timp real poate transforma o eroare izolată într-o problemă sistemică de amploare.
Evoluția tehnologiei AI în sectorul financiar marchează o schimbare de paradigmă față de instrumentele digitale tradiționale, care funcționau doar ca interfețe de operare. În timp ce tehnologiile anterioare executau comenzi directe, agenții autonomi introduc elementul de interpretare și decizie, ceea ce necesită noi cadre de reglementare și limite tehnice pentru tranzacții. Această tranziție pune sub semnul întrebării modul în care instituțiile vor gestiona răspunderea juridică pentru deciziile luate de algoritmi.