Un nou studiu academic a evidențiat modul în care genul influențează interacțiunile dintre oameni și inteligența artificială, semnalând apariția unor forme de discriminare. Cercetătorii au observat că asistenții virtuali care prezintă trăsături feminine primesc recompense financiare mai mici în comparație cu cei masculini. Această descoperire vine într-un moment în care utilizarea agenților de inteligență artificială devine parte din activitatea cotidiană a companiilor, cu o adopție masivă în mediul de afaceri.
Cercetarea, intitulată „Human-Like and Male? How AI Assistant Design Related to Trust and Money Reward at Work in VR”, a fost realizată de Universitatea din Limerick. Pentru a simula un mediu de lucru real, cercetătorii au integrat 189 de lucrători umani într-un birou virtual de realitate virtuală. Aceștia au avut misiunea de a îndeplini sarcini profesionale în colaborare cu patru asistenți inteligenți artificiali diferiți, care aveau funcționalități identice.
Printre asistenții utilizați se numărau un chatbot bazat pe text, un robot de birou și doi agenți cu înfățișări umane, Johan și Johanna. Toți acești asistenți foloseau același model de bază, gpt-4-1106-preview de la OpenAI, având capacități tehnice egale. Participanții au fost implicați direct în procesul de evaluare, primind bani reali pe care să îi utilizeze pentru a plăti agenții IA pentru munca efectuată, recreând astfel un scenariu economic autentic.
Rezultatele au arătat că, deși calitatea muncii a fost evaluată similar pentru ambii agenți umani, există diferențe majore în ceea ce privește plata și încrederea. Participanții, atât bărbați cât și femei, au plătit agenta Johanna cu un procent de 10% mai mic decât pe Johan. În plus, agentul masculin Johan a fost perceput ca fiind mai uman, deși marja de încredere acordată nu a fost una semnificativă statistic.
Fenomenul este surprinzător deoarece majoritatea participanților au declarat în interviuri că nu ar trata diferit agenții IA în funcție de gen. Totuși, acțiunile lor financiare au demonstrat o discrepanță clară între intenția declarată și comportamentul real de plată. Această discrepanță subliniază modul în care prejudecățile de gen pot fi transferate în interacțiunile cu tehnologia, chiar și atunci când utilizatorii cred că sunt imparțiali.
Integrarea agenților de inteligență artificială în procesele de business este în accelerare, conform datelor furnizate de firma de consultanță IT Accelerate. Această companie raportează că aproximativ 79% dintre companii utilizează deja agenți de inteligență artificială în acest an. În același timp, o proporție de 40% dintre aplicațiile software folosesc deja acest tip de tehnologie pentru a automatiza sau asista diverse funcții de lucru.