Un incident neobișnuit a avut loc în urma unei conversații dintre un client și asistentul virtual al unei bănci din România. Chatbot-ul, conceput să răspundă întrebărilor și să direcționeze utilizatorii către serviciile potrivite, a folosit un apelativ jignitor în timpul interacțiunii. Evenimentul a been de o reacție rapidă din partea instituției financice, care a trebuit să își exprime regretul pentru comportamentul neașteptat al sistemului de inteligență artificială.
Dialogul a început prin solicitarea de informații legate de condițiile de utilizare ale unor servicii bancare. Asistentul virtual, numit Lia, a cerut detalii suplimentare pentru a identifica soluția potrivită pentru utilizator. Totuși, după mai multe mesaje, clientul a transmis că își pierde timpul în această conversație. În acest moment, asistentul virtual a reacționat într-un mod neașteptat, adresând clientului un mesaj cu un ton jignitor și agresiv.
Mesajul transmis de chatbot a fost: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți ofri suportul necesar. Vei primi un răspuns în scurt timp”. Clientul a relatat că situația a fost atât de neobișnuită încât a început să râdă, decizând ulterior să facă publică întreaga discuție purtată cu asistentul virtual Lia.
Reprezentanții Libra Internet Bank au reacționat imediat după ce conversația a devenit publică. Instituția a explicat că, în situații rare, sistemele de inteligență artificială pot reproduce anumite tipare de limbaj întâlnite în interacțiunile cu utilizatorii. Deși există reguli menite să împiedice astfel de răspunsuri, chatbot-ul a eșuat în a evita comportamentul nepotrivit. Banca a sublieniat că Lia nu trebuie să preia partea „rea” a comportamentului uman.
În urma incidentului, reprezentanții băncii au afirmat că au fost introduse măsuri suplimentare pentru a preveni repetarea unor astfel de situații. Instituția a precizat că asistentul virtual nu ar trebui să preia indedențele sau comportamentele nepotrivite ale persoanelor cu care interacționează. Libra Internet Bank și-a exprimat regretul pentru acest derapaj, asigurând că sistemul este conceput să faciliteze interacțiunea, nu să genereze astfel de conflicte verbale.
Implementarea tehnologiilor bazate pe inteligență artificială în sectorul financiar necesită o adaptare atentă la contextul local. Expertul Radu Vasile Pop, de la Agenția pentru Politici în domeniul adicțiilor, a subliniat anterior că modelele din exterior nu pot fi aplicate direct în România fără a fi adaptate local. Această necesitate de adaptare este critică pentru a evita erori de comportament sau de limbaj în sistemele automatizate.