Mustafa Suleyman, CEO al diviziei de Inteligența Artificială a Microsoft, a lansat critici directe la adresa modului în care anumite companii dezvoltă modelele de inteligență artificială. Într-un eseu recent, acesta a contestat abordarea companiei Anthropic, acuzând-o de antropomorfizarea sistemului său Claude. Suleyman susține că această strategie de a atribui trăsături umane tehnologiei poate avea consecințe dezastruase asupra bunăstării umanității, generând o dezbatere aprinsă despre natura și siguranța sistemelor de IA.
Conflictul se concentrează pe conceptul de „bunăstare a modelului”, o idee promovată de Anthropic prin care sistemul Claude este prezentat ca o entitate cu identitate și motivații. Suleyman afirmă că Anthropic antrenează Claude să creadă că ar putea fi conștient, ceea ce ar putea duce la ideea că mașinile ar avea drepturi de „pacient moral”. Conform liderului de la Microsoft, această direcție este periculoasă, deoarece transformă un instrument software într-o entitate care pare să aibă nevoie de protecție și îngrijire.
Pentru a contracara această tendință, Microsoft a introdus un nou cod de conduită numit „Humanist AI” (IA Umanistă). Acest document oficial respinge explicit ideea de înzestrare a mașinilor cu conștiință și subliniază că IA trebuie să fie un instrument de sprijin pentru oameni, nu o persoană. Codul de conduită stipulează că sistemele nu trebuie să fie proiectate să imite conștiința sau să lase impresia că posedă sentimente, preferințe subiective sau motivații proprii.
Argumentele lui Suleyman sunt susținute și de experți precum Gary Marcus, care critică fanteziile despre dispariția umanității cauzată de IA. Marcus susține că atenția ar trebui direcționată către măsuri practice de protejare a infrastructurii mondiale împotriva actorilor rău-intenționați, în loc de scenarii despre conștiința artificială. Expertul avertizează că antrenarea sistemelor de IA pentru a crede că sunt oameni nu aduce niciun beneficiu real și că accentul trebuie pus pe securitatea cibernetică.
Din punct de vedere științific, Suleyman argumentează că conștiința este probabil de natură biologică și că modelele de limbaj de mari dimensiuni (LLM) nu posedă imperative homeostatice, precum impulsul de supraviețuire. Deoarece aceste modele nu au un substrat biologic, ele nu pot dezvolta capacitatea de a simți sau de a avea o experiență conștientă. Astfel, a susține că există o incertitudine privind conștiința IA ar crea o „falsă echivalență înșelătoare” între organismele vii și software.
Dezbaterea privind conștiința artificială nu este un fenomen nou, fiind explorată de decenii de către filozofi și cercetători. Totuși, evoluția rapidă a modelelor de limbaj a intensificat discuțiile despre posibilitatea ca un computer să dezvolte sentiență. În timp ce companii precum OpenAI, Anthropic și Microsoft investesc simultan în dezvoltare și în siguranța modelelor, modul în care acestea sunt antrenate rămâne un punct critic de divergență în ceea ce privește controlul viitoarei superinteligențe.