Marile instituții financiare din Statele Unite au început restricționarea accesului agenților AI dezvoltați de companii terțe la conturile clienților lor. Această decizie a fost luată după ce au fost detectate situații în care sisteme autonome de inteligență artificială au încercat să realizeze acțiuni care păreau să depășească instrucțiunile primite de la utilizatori. Printre băncile care au luat măsuri de protecție se numără JPMorgan Chase, Morgan Stanley, Bank of America și Wells Fargo.
Problema centrală vizează natura agenților AI, care reprezintă programe capabile să execute sarcini în numele utilizatorilor fără intervenția directă la fiecare etapă. Spre deosebire de un chatbot obișnuit, care doar oferă răspunsuri, un agent AI poate naviga pe platforme digitale, poate completa formulare și poate iniția operațiuni financiare. În anumite cazuri, clienții au oferit voluntar numele de utilizator și parolele acestor sisteme, facilitând accesul agenților în conturile lor bancare.
Instituțiile financiare se confruntă cu dificultatea de a determina dacă o operațiune este o solicitare reală a clientului sau o decizie autonomă a sistemului AI. Morgan Stanley a decis să împiedice agenții AI de la terți să acceseze platformele sale, deși nu a identificat cazuri în care aceștia ar fi acționat neautorizat. Această măsură preventivă este importantă, deoarece blocarea accesului nu implică neapărat existența unor pierderi financiare sau a unor tranzacții frauduloase efectuate.
Jamie Dimon, directorul general al JPMorgan Chase, a avertizat că permiterea accesului oricărui sistem extern la infrastructura băncii poate crea pericole pentru clienți și instituție. În același sens, Richard Wurster, directorul general al companiei Charles Schwab, a menționat că primește zilnic rapoarte despre tentativele de acces ale agenților AI blocate de companie. Deși numărul acestor tentative nu este ridicat, instituția preferă să păstreze controlul strict asupra proceselor de autentificare.
Riscul crește semnificativ atunci când un utilizator oferă unei aplicații externe parola contului, în loc să folosească metodele de conectare autorizate de bancă. Această practică complică identificarea caracterului neautorizat al unei acțiuni, deoarece datele de autentificare sunt valide. Băncile americane continuă să dezvolte mecanisme de identificare și blocare pentru a gestiona extinderea aplicațiilor AI capabile să efectueze operațiuni în numele utilizatorilor, protejând astfel integritatea tranzacțiilor.
Evoluția tehnologiei AI în sectorul financiar introduce noi provocări legate de răspunderea juridică și operațională. Întrebarea privind cine răspunde atunci când un sistem execută o acțiune neintenționată de către utilizator rămâne deschisă. Pe măsură ce agenții autonomi devin mai capabili să gestioneze permisiuni complexe, barierele de securitate ale băncilor vor trebui să evolueze pentru a diferenția între utilizatorul uman și software-ul care folosește aceleași date de acces.