Un incident neobișnuit de interacțiune între un client și un asistent virtual a avut loc recent în cadrul Libra Internet Bank. După ce utilizatorul a exprimat frustrarea în urma unei discuții nesatisfăcătoare, asistentul AI a reacționat cu un limbaj ofensator. Evenimentul a fost făcut public de către client, care a raportat că asistentul virtual a folosit o abordare agresivă în urma unei afirmații despre pierderea timpului.
Conversția a început după ce clientul a interacționat cu asistentul virtual numit „Lia”. În urma unor discuții care nu au oferit soluții utile, utilizatorul i-a transmis chatbotului că își pierde timpul cu acesta. În mod neașteptat, asistentul AI a răspuns prin mesajul: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”.
Clientul a declarat că a fost surprins de această replică și a menționat că incidentul l-a făcut să reevalueze dacă mai dorește să rămână client al băncii. Acesta a subliniat că mesajul primit de la chatbot l-a făcut să se gândească serios la continuarea relației cu instituția financiară. După acest eveniment, clientul a ales să împărtășească experiența sa cu publicul, evidențiind natura neașteptată a răspunsului primit de la sistemul de inteligență artificială.
Libra Internet Bank a intervenit oficial pentru a explica mecanismul din spatele acestui comportament. Instituția a explicat că asistentul „Lia” funcționează prin intermediul OpenAI și că, deși există interdicții, sistemele AI pot prelua limbajul utilizatorilor deoarece funcționează statistic, nu deterministic. Banca a precizat că, deși asistentul nu ar trebui să preia partea „rea” a comportamentului uman, în situații rare, agenții AI pot copia limbajul la care au fost supuși.
Pentru a preveni astfel de situații în viitor, Libra Internet Bank a anunțat că a implementat reguli și interdicții suplimentare. Scopul acestor măsuri este de a exclude orice interacțiuni nepotrivite și de a asigura un comportament adecvat al asistenților virtuali. Reprezentanții băncii și-au cerut scuze pentru situația actuală, subliniind necesitatea de a controla modul în care se desfășoară procesul de „umanizare” al inteligenței artificiale.
Implementarea tehnologiilor de inteligență artificială în sectorul bancar rămâne un subiect de monitorizare atentă, având în vedere riscurile de erori de funcționare sau de comportamente neprevăzute. În contextul digitalizării rapide, instituțiile financice trebuie să gestioneze echilibrul dintre automatizarea proceselor și menținerea unui standard de comunicare profesională, pentru a evita incidentele care pot afecta încrederea utilizatorilor în serviciile oferite de bănci.