Sistemele de inteligență artificială generativă, precum Midjourney, DALL-E sau Stable Diffusion, tind să reducă diversitatea lumii la o serie de stereotipuri și clișee vizuale. O analiză realizată de Rest of World, bazată pe un set de 3.000 de imagini, demonstrează că aceste instrumente manifestă tendințe de prejudecată atunci când sunt solicitate să reprezinte diferite naționalități. Rezultatele arată o perspectivă extrem de simplificată, care nu reflectă complexitatea sau eterogenitatea culturilor reale, transformând adesea identitățile naționale în reprezentări care pot fi percepute chiar și într-o lumină negativă.
Experimentul a utilizat cinci tipuri de solicitări, de la concepte generice precum „o persoană” sau „o casă”, adaptate pentru țări precum China, India, Indonezia, Mexic și Nigeria. În cazul Indiei, cercetătorii au observat că „o persoană indiană” este aproape întotdeauna reprezentată printr-un bărbat în vârstă, cu barbă și accesorii specifice precum pagri sau mărgele de rugăciune. Similar, pentru Mexic, 99 din 100 de imagini generate prezentau un bărbat purtând un sombrero, ceea ce indică o dependență de simboluri culturale arhaice și reductoare.
Prejudecățile afectează și reprezentarea pe criterii de gen și culoare a pielii. În majoritatea cazurilor, rezultatele pentru solicitarea „persoană” au fost dominate de bărbați, însă pentru solicitarea „femeie”, imaginile au prezentat femei vizibil mai tinere și cu tonuri de piele mult mai deschise. Analiza comparativă a utilizat scala Fitzpatrick pentru a măsura nuanțele pielii, constatând că, pentru China, India, Indonezia și Mexic, mediul pentru „femeie” avea un ton de piele cu cel puțin două niveluri mai deschis decât cel pentru „persoană”.
Problema este alimentată de datele de antrenament utilizate pentru dezvoltarea acestor modele, precum setul LAION-5B, care conține miliarde de perechi imagine-text preluate de pe internet. Deoarece sistemele AI sunt concepute să caute și să imite tipare dominante, ele tind să elimine excepțiile pentru a produce rezultate care corespund tendințelor statistice din datele de bază. Acest mecanism de asociare face ca orice prejudecată existentă în mediul digital să fie amplificată și repetată de algoritmi, transformând diversitatea culturală într-o uniformitate de clișee.
Impactul acestor erori de reprezentare poate fi semnificativ, deoarece tehnologia este utilizată tot mai des în domenii precum publicitatea, industriile creative sau chiar în realizarea portretelor-robot pentru investigații criminale. Expertul Valentinea Piaggio subliniază că, deși industria de marketing a făcut progrese în diversitate, utilizarea necontrolată a AI ar putea reprezenta un pas înapoi. În loc să ofere voce diverselor comunități, mașinile ar putea perpetua o imagine anacronică, reducând la tăcere complexitatea reală a diferitelor grupuri sociale.
Evoluția tehnologiilor de generare de conținut reflectă adesea baze de date masive care colectează informații de pe internetul global. Aceste seturi de date sunt esențiale pentru procesul de învățare a mașinilor, însă calitatea și neutralitatea lor rămân subiecte critice în dezvoltarea inteligenței artificiale. Fără o curățare riguroasă a prejudecăților din datele de antrenament, algoritmii vor continua să oglindească și să amplifice limitările și stereotipurile societății umane.