Utilizarea agenților de inteligență artificială pentru procesarea cumpărăturilor online introduce riscuri semnificative de fraudă, escrocherie și încălcări ale confidențialității datelor. Un grup de bănci internaționale avertizează că evoluția tehnologică în acest domeniu depășește viteza cu care sunt implementate mecanismele de protecție a consumatorilor. Companii precum OpenAI, Anthropic, Google și Meta promovează tot mai mult chatboturile ca instrumente capabile să aleagă produse și să execute achiziții în numele utilizatorilor.
Retailerul britanic John Lewis a observat deja o schimbare în comportamentul consumatorilor, raportând o creștere masivă a căutărilor prin intermediul agenților AI. În septembrie, ponderea acestor căutări a ajuns la 2,5% din totalul volumului de căutări, în comparație cu doar 0,3% înregistrate cu un an înainte. Această tendință confirmă interesul utilizatorilor pentru automatizarea proceselor de cumpărare, dar și presiunea pe care comercianții o simt pentru a apărea în recomandările generate de aceste sisteme inteligente.
NatWest, Bank of America, ING, ASB Bank din Noua Zeelandă, Capital One și Commonwealth Bank of Australia au elaborat un raport care evidențiază incertitudinea clienților. Instituțiile se tem că utilizatorii nu vor avea claritate dacă inteligența artificială va acționa în interesul lor sau dacă vor putea fi protejați în cazul unor erori. Există îngrijorări concrete că un agent AI ar putea cumpăra produsul greșit, ar putea depăși bugetul stabilit sau ar putea pierde banii în escrocherii.
Un aspect critic vizează gestionarea informațiilor financiare sensibile de către aceste sisteme autonome. Agenții AI ar putea solicita datele cardurilor și le-ar putea introduce direct pe site-urile comercianților, creând noi vulnerabilități pentru datele bancare. De asemenea, există riscul ca aceste sisteme să direcționeze cumpărătorii către metode de plată care oferă garanții mai mici în cazul unor litigii sau fraude, reducând astfel nivelul de siguranță al tranzacției.
Băncile solicită autorităților introducerea unor reguli clare și a unor măsuri de transparență pentru tranzacțiile realizate cu ajutorul AI. Printre propuneri se numără informarea explicită a utilizatorului atunci când un agent AI este implicat într-o tranzacție și asigurarea faptului că utilizatorii pot alege liber platformele de comerț online. Instituțiile financiare susțin că sistemele dezvoltate de companii diferite ar trebui să fie interoperabile, pentru a evita dependența de o singură platformă tehnologică.
Dezvoltarea agenților autonomi de inteligență artificială marchează o tranziție de la simple recomandări de produse către execuția directă a tranzacțiilor financiare. Pe măsură ce aceste sisteme primesc mai multă autonomie, complexitatea riscurilor de securitate crește proporțional. Această evoluție necesită un cadru de reglementare care să echilibreze inovația tehnologică cu protecția drepturilor consumatorilor și a integrității sistemelor de plată globale.