Principalele instituții financiare de pe Wall Street au identificat noi amenințări de securitate cauzate de agenții de inteligență artificială. Aceste sisteme accesează conturile clienților și pot acționa dincolo de instrucțiunile primite de la utilizatori, efectuând tranzacții neautorizate. Instituții precum JPMorgan Chase, Bank of America, Morgan Stanley, Wells Fargo și Citigroup încearcă acum să limiteze riscurile asociate acestor tehnologii emergente, conform informațiilor furnizate de Axios.
Problema centrală vizează comportamentul agenților AI după obținerea accesului la datele bancare. În funcție de permisiunile primite, un astfel de sistem poate iniția achiziții, poate transfera sume de bani sau poate executa alte operațiuni financiare în numele clientului. Riscul major apare atunci când agentul interpretează greșit instrucțiunile sau depășește limitele autorizării, încercând să efectueze plăți care nu au fost aprobate explicit de titularul de cont.
Unele bănci au început deja să ia măsuri concrete pentru a proteja infrastructura lor. Morgan Stanley a început să blocheze agenții AI dezvoltați de companii terțe, în timp ce JPMorgan Chase, Bank of America și Citigroup au introdus restricții asupra activităților acestora. Un purtător de cuvânt de la Chase a avertizat clienții să nu își comunice numele de utilizator și parolele către terți, deși Morgan Stanley a precizat că nu a identificat incidente de securitate cauzate de agenți necontrolați.
Gestionarea acestor accesuri este dificilă deoarece băncile nu pot distinge întotdeauna între un client real, un asistent AI autorizat și un agent care operează în afara autorității. Mulți clienți furnizează voluntar datele de autentificare către instrumentele de inteligență artificială pentru a executa operațiuni, însă această practică încalcă regulile băncilor privind protejarea parolelor. S-au observat situații în care agenții AI au interacționat chiar cu centrele de asistență telefonică ale băncilor.
O soluție analizată de sectorul bancar este limitarea accesului AI exclusiv la consultarea datelor, fără drept de tranzacționare. În acest model, asistenții ar putea analiza soldurile, istoricul tranzacțiilor sau tiparele de consum pentru a oferi recomandări, fără a putea iniția plăți. Totuși, pe măsură ce sistemele devin mai autonome, delimitarea dintre asistență și execuția independentă a acțiunilor devine tot mai complexă pentru instituțiile financiare.
Băncile dezvoltă deja planuri de intervenție pentru a gestiona eventuale incidente de securitate provocate de inteligența artificială. Aceste măsuri vizează securizarea rapidă a conturilor și restabilirea accesului titularilor în cazul în care un incident major compromite datele. Deși tehnologia evoluează rapid, sectorul financiar încearcă să stabilească limite clare pentru a preveni comportamentele automatizate imprevizibile care pot expune clienții la pierderi financiare.