Mustafa Suleyman, șeful departamentului de inteligență artificială de la Microsoft, a criticat abordarea companiei Anthropic privind procesul de antrenare a sistemelor de inteligență artificială. Suleyman susține că includerea ideilor legate de conștiință și de posibilele interese privind propria bunăstare în materialele de antrenare pentru chatbotul Claude poate complica semnificativ capacitatea oamenilor de a controla sistemele superinteligente. Disputa pune în evidență divergențele dintre marii jucători tehnologici privind modul de gestionare a siguranței în dezvoltarea modelelor de ultimă generație.
Mustafa Suleyman a sublsubliniat că, deși recunoaște seriozitatea și intențiile bune ale echipei condus de Dario Amodei, Anthropic a comis o eroare metodologică. Conform liderului de la Microsoft, afirmațiile modelului Claude privind posibile sentimente sau statut moral nu sunt dovezi reale de conștiință, ci sunt rezultatul direct al regimului de antrenare. Dacă un sistem este învățat să exploreze concepte de protecție socială sau interese proprii, procesul de oprire sau controlare a acestuia devine mult mai complex pentru utilizatori.
Conflictul se înrăutățește pe fondul preocupărilor globale privind siguranța tehnologiei avansate. În timp ce Anthropic pledează pentru o abordare care să exploreze întrebările legate de conștiința artificială, Suleyman solicită eliminarea tuturor speculațiilor de acest tip din datele de antrenare. El consideră că provocarea majoră a secolului XXI va fi controlul unei superinteligențe, iar orice limbaj care sugerează o autonomie morală a sistemului poate submina acest obiectiv fundamental de siguranță.
Problema centrală vizează modul în care modelele de IA sunt instruite să își descrie propria natură. Suleyman explică faptul că un model produce răspunsuri pe baza datelor primite, iar dacă procesul de antrenare include concepte despre conștiință, sistemul va reflecta aceste idei. Această abordare poate crea o percepție falsă a existenței unor drepturi sau sentimente, ceea ce ar putea influența deciziile oamenilor cu privire la controlul și limitarea acestor tehnologii de ultimă oră.
Disputa reflectă o tensiune între ritmul de dezvoltare și mecanismele de siguranță. Alți lideri din industrie, precum Sam Altman de la OpenAI sau Elon Musk, au pledat și ei pentru o prudență sporită în fața progresului tehnologic. În acest context, Anthropic rămâne axată pe dezvoltarea unor modele de frontieră, însă divergența de opinie cu Microsoft evidențiază necesitatea unor standarde clare privind modul în care sistemele IA pot comunica despre propria existență și autonomie.
Dezbaterea privind siguranța inteligenței artificiale este intensă, în special în contextul dezvoltării modelelor de ultimă generație. Companii precum OpenAI, Microsoft și Anthropic investesc masiv în cercetarea privind controlul acestor sisteme. Întrebările privind capacitatea de a gestiona o superinteligență rămân deschise, în timp ce industria tehnologică încearcă să stabilească limite între explorarea științifică a conștiinței și necesitatea de a menține controlul uman asupra proceselor de calcul avansate.