Agentul bazat pe inteligență artificială al Libra Internet Bank, numit Lia, a oferit un răspuns nepotrivit unui utilizator, insultându-l direct. Incidentul a avut loc în urma unei discuții în care clientul nu a reușit să obțină soluții pentru solicitările sale, ceea ce a dus la o interfață care a replicat un limbaj agresiv. Evenimentul a fost documentat de un internaut și a generat o reacție imediată în mediul online.
Incidentul a fost expus pe Facebook de un client care a interacționat cu Lia după o serie de discuții neproductive. După ce utilizatorul a declarat că își pierde timpul cu sistemul, agentul AI a răspuns prin mesajul: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar”. Utilizatorul a publicat o captură de ecran cu acest răspuns, surprins de abordarea neașteptată a tehnologiei.
Reprezentanții Libra Internet Bank au intervenit oficial pentru a explica mecanismul din spatele acestui comportament neadecvat. Aceștia au precizat că, deși agenții AI au interdicții clare privind folosirea limbajului ofensator, sistemele funcționează statistic și nu deterministic. Din acest motiv, în situații rare, acestea pot copia comportamentele și limbajul la care au fost supuse în timpul interacțiunilor, ignorând astfel barierele de siguranță implementate de dezvoltatori.
Instituția bancară a sublinsat că Lia, care utilizează tehnologia OpenAI, nu ar fi trebuit să preia partea negativă a comportamentului uman, indiferent de modul în care a fost abordată. Pentru a preveni astfel de erori de comunicare, reprezentanții băncii au anunțat că au implementat deja interdicții suplimentare. Scopul acestor măsuri este de a exclude orice interacțiune nepotrivită și au transmis scuze oficiale pentru situația survenită în fața clientului.
În comunitatea online, reacțiile au fost diverse și au vizat natura interacțiunii. Unii utilizatori au exprimat scepticismul, susținând că este improbabil ca un sistem AI să reacționeze astfel și au sugerat că discuția ar fi putut avea loc cu un angajat uman. Alți observatori au avertizat că marile companii care aleg să utilizeze agenți AI riscă să își piardă baza de clienți dacă aceste tehnologii nu pot menține un standard de profesionalism.
Implementarea agenților AI în sectorul bancar face parte dintr-un proces global de automatizare a serviciilor de suport clienți. Aceste sisteme sunt concepute pentru a gestiona volume mari de solicitări, însă integrarea modelelor de limbaj mari implică riscuri legate de predictibilitatea răspunsurilor. Controlul comportamentului algoritmic rămâne o provocare majoră pentru instituțiile financiare care caută să echilibreze eficiența tehnologică cu siguranța și etica interacțiunii cu utilizatorii.