România se confruntă cu o integrare deficitară a tehnologiilor de ultimă generație, fiind în prezent pe ultimul loc în Uniunea Europeană în ceea ce privește competențele digitale. Implementarea inteligenței artificiale în cadrul IMM-urilor românești nu depășește pragul de 10%, o situație care afectează și administrația publică. Antreprenoarea Ana-Maria Stancu subliniază că procesul de adoptare necesită o educație profundă, nu doar despre utilizarea uneltelor, ci și despre riscurile majore de securitate.
Un aspect critic vizează protecția datelor personale și respectarea reglementărilor GDPR în mediul profesional. Ana-Maria Stancu avertizează funcționarii publici și angajații companiilor că introducerea datelor confidențiale în soluții comerciale precum ChatGPT, Gemini sau Claude poate expune informații sensibile pe internet. Utilizarea necorespunzătoare a acestor platforme poate compromite siguranța datelor, motiv pentru care este esențială înțelegerea modului în care funcționează procesarea informațiilor în spațiul digital.
Din perspectiva financiară, implementarea agenților AI poate deveni extrem de costisitoare pentru o afacere. În timp ce variantele de bază sunt accesibile, utilizarea agenților pentru procesarea documentelor se bazează pe consumul de tokeni, care reprezintă unități de text analizate de calculator. Pentru procesarea unui volum de aproximativ 20-30 de documente, costurile pot ajunge la 1.500 de dolari. Această complexitate financiară explică de ce unele companii din America au revenit la angajarea oamenilor.
Tehnologia inteligenței artificiale funcționează pe baze statistice, ceea ce poate duce la fenomenul de „halucinație”. Ana-Maria Stancu explică faptul că algoritmii nu înțeleg conceptele, ci fac predicții matematice despre cuvintele cele mai probabile. Acest lucru poate genera răspunsuri false, precum în cazul informațiilor despre aderarea României la spațiul Schengen. Din acest motiv, utilizarea AI ca motor de căutare în locul Google este periculoasă fără o verificare riguroasă a surselor.
În ceea ce privește piața muncii, automatizarea va afecta în principal sarcinile repetitive, însă nu va înlocui complet factorul uman. În zonele cu risc înalt, precum sănătatea sau domeniul financiar, reglementările europene precum AI Act impun existența unui control uman („human on the loop”). Deciziile luate de sisteme de machine learning, de la diagnoze medicale la acordarea creditelor, trebuie să poată fi verificate și contestate de o persoană reală.
Contextul digital global este marcat de o reglementare tot mai strictă, similară cu modul în care Uniunea Europeană gestionează alte piețe de date. În timp ce tehnologiile de tip machine learning evoluează rapid, cadrul legislativ european încearcă să protejeze drepturile cetățenilor împotriva deciziilor automate eronate. Această reglementare este vitală pentru a preveni utilizarea algoritmilor ca „cutii negre” în procese care afectează direct viața și drepturile economice ale indivizilor.