O echipă de cercetători de la Universitatea „Alexandru Ioan Cuza” din Iași a dezvoltat un sistem bazat pe inteligență artificială capabil să identifice indicii de depresie în postările de pe platforma X. Programul nu oferă doar un verdict, ci generează și o explicație în limbaj obișnuit pentru a justifica concluzia ajunsă la capăt. Analiza se concentrează atât pe conținutul textului, cât și pe momentul în care mesajul a fost publicat de utilizator.
Proiectul a fost coordonat de conf. dr. Mădălina Răschip, de la Facultatea de Informatică a UAIC, care subliniază importanța transparenței în domeniul sănătății mintale. Conform acesteia, simpla clasificare a unei postări nu este suficientă pentru medici, utilizatori sau cercetători, deoarece aceștia au nevoie de motivele din spatele deciziei modelului. Explicațiile oferite de sistem pot crește încrederea în tehnologie și permit verificarea faptului că modelul se bazează pe indicii relevante, nu pe corelații întâmplătoare.
Tehnologia utilizează un model de tip Transformer, numit BERT, care interpretează sensul cuvintelor în funcție de contextul în care sunt folosite. La această reprezentare numerică a textului se adaugă date despre ora din zi și ziua săptămânii, deoarece momentul publicării poate oferi informații despre starea psihică. Analiza a indicat faptul că postările asociate depresiei apar mai des noaptea sau dimineața devreme, în timp ce cele publicate în jurul prânzului primesc scoruri mai mici.
Sistemul a fost antrenat pe un set de date format din aproximativ 20.000 de mesaje de pe platforma X, provenite de la 72 de utilizatori. Din acest număr, jumătate dintre mesaje au fost marcate ca fiind asociate depresiei, iar cealaltă jumătate nu. În cadrul testelor, programul a reușit să identifice corect verdictul în 85% dintre cazuri. Autorii au ales platforma X deoarece postările sunt publice, scurte, spontane și afișează ora exactă a publicării.
Generarea justificărilor s-a dovedit a fi o etapă mai complexă decât clasificarea propriu-zisă a stării emoționale. Pentru antrenarea acestei componente, cercetătorii au utilizat explicații generate anterior cu ajutorul GPT-4. Deși suprapunerea lexicală a fost redusă, explicațiile produse de noul sistem au avut un sens apropiat de cele inițiale, reușind să reformuleze ideea emoțională centrală a postării într-un mod accesibil.
Utilizarea sistemelor de inteligență artificială pentru detectarea emoțiilor este strict reglementată la nivelul Uniunii Europene. Legislația europeană interzice utilizarea acestor tehnologii în școli sau la locul de muncă, din cauza riscurilor pentru persoanele vulnerabile. În alte contexte, astfel de instrumente sunt clasificate drept sisteme cu risc ridicat, fiind obligate să respecte criterii stricte privind controlul uman și capacitatea de a explica deciziile luate.