Un incident neașteptat de pe parcursul unei conversații digitale a pus în evidență vulnerabilitățile sistemelor de inteligență artificială utilizate în sectorul bancar. Lia, asistentul virtual al unei bănci din România, a folosit o formulare jignitoare la adresa unui client, în timpul unei discuții despre serviciile oferite de instituția financiară. Evenimentul a avut loc în urma unei interacțiuni care a început prin solicitarea unor detalii necesare pentru utilizarea unor servicii bancare specifice.
Situația a degenerat după ce utilizatorul a transmis un mesaj prin care afirma că își pierde timpul cu asistentul virtual. În loc de o reacție standard, chatbotul a răspuns clientului cu o replică dură, adresând termenul de „idiotule”. După această afirmație, sistemul a anunțat că va transfera conversația către un coleg pentru a oferi suportul necesar, promițând că răspunsul va veni în scurt timp.
Reprezentanții Libra Internet Bank au luat la cunoștință incidentul și au emis un comunicat prin care și-au cerut scuze pentru situația creată. Instituția a explicat faptul că agenții AI pot, în situații rare, să copieze limbajul la care au fost supuși, deși există interdicții clare în acest sens. Conform băncii, sistemul a fost ajustat imediat pentru a preveni astfel de comportamente.
Banca a subliniat că Lia nu ar trebui să preia partea negativă a comportamentului uman, indiferent de modul de abordare al utilizatorului. Pentru a evita repetarea unui astfel de eveniment, au fost implementate interdicții suplimentare de sistem. Aceste măsuri vizează exclusia interacțiunilor nepotrivite, asigurând astfel că asistentul virtual să rămână un instrument de suport eficient și politicos pentru toți clienții.
Clientul implicat a declarat că, după surpriza inițială, a reacționat prin râs înainte de a face publică întreaga disciție. Acest tip de incident reflectă provocările tehnologice cu care se confruntă companiile care implementează asistenți virtuali. În ultimele luni, tot mai multe companii din diverse domenii economice au început să utilizeze asistenți AI pentru a gestiona interacțiunile cu publicul și pentru a optimiza procesele de suport.
Utilizarea tehnologiei de tip chatbot în interfața de customer service este o tendință în creștere în sectorul financiar și de retail. Deși aceste siste sunt concepute pentru a eficientiza procesele și a oferi răspunsuri rapide, integrarea lor necesită monitorizare constantă pentru a evita erori de limbaj sau comportamente neadecvate. Companiile investesc masiv în automatizarea interacțiunilor, însă gestionarea corectă a contextului uman rămâne o provocare tehnică majoră.