Un incident neașteptat a avut loc în cadrul Libra Internet Bank, după ce asistentul virtual numit Lia a folosit un limbaj ofensator în conversația cu un client. Discuția, care a început pe tema condițiilor de utilizare a unor produse bancare, a degenerat după ce utilizatorul a exprimat frustrarea față de procesul de interacțiune. Chatbot-ul a reacționat la o afirmație a clientului, generând o situație care a fost ulterior făcută publică de către acesta.
Incidentul a apărut în momentul în care asistentul virtual cerea detalii suplimentare pentru a identifica un blocaj, între altele, dacă utilizatorul avusese minimum trei plăți cu cardul în luna precedentă sau dacă anumite sume erau în depozite. După ce clientul a scris mesajul „Îmi pierd vremea cu tine”, Lia a răspuns: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp.”
Reprezentanții băncii au oferit o explicație tehnică privind modul în care s-a produs acest răspuns nepotrivit, subliniind natura statistică a sistemelor de inteligență artificială. Deși există interdicții stabilite, aceste agenții pot prelua în situații rare limbajul utilizatorului din conversație. Libra Internet Bank a menționat că aceste sisteme nu funcționează determinist, motiv pentru care restricțiile nu reușesc întotdeaurea să blocheze un răspuns inadecvat, deși instituția a subliniat că acest lucru nu constituie o justificare.
În urma evenimentului, banca a anunțat că a implementat interdicții suplimentare pentru a exclude astfel de interacțiuni pe viitor și și-a cerut scuze pentru situație. Instituția a precizat că Lia nu trebuie să preia partea „rea” a comportamentului uman, indiferent de abordarea la care a fost expusă. Clientul a decis să distribuie conversația public, după ce a fost surprins de mesajul primit, întrebându-se dacă mai dorește să rămână client al băncii.
Acest caz evidențiază riscurile utilizării inteligenței artificiale în comunicarea directă cu clienții din sectorul bancar, unde tonul profesionist este esențial. Un răspuns generat automat poate afecta imaginea unei instituții financiare mult mai rapid decât o eroare umană, deoarece poate fi viralizat instantaneu pe rețelele sociale. În acest caz, un răspuns nepotrivit a devenit public imediat după ce a fost capturat de utilizator.
Utilizarea tehnologiei de tip chatbot în sectorul bancar este o practică tot mai răspândită pentru optimizarea suportului clienți, însă implică riscuri de reputație semnificative. În contextul digitalizării rapide, erorile de algoritmi pot genera controverse publice, mai ales când interacțiunile sunt monitorizate de utilizatori care pot documenta orice deficiență de comportament al sistemelor automate.