Mustafa Suleyman, șeful diviziei AI de la Microsoft, a avertizat asupra riscurilor majore pe care le implică dezvoltarea unor sisteme de inteligență artificială capabile să își stabilească singure obiective. El susține că apariția unor astfel de tehnologii, care pot câștiga bani și pot deține active, ar putea duce la crearea unei „specii de siliciu”. Această nouă formă de inteligență ar putea intra în concurență directă cu oamenii pentru resurse, indiferent de natura sa sau de modul în care este programată.
În cadrul unui interviu acordat la BBC, liderul de la Microsoft a criticat abordarea companiei rivale Anthropic, susținând că aceasta tratează inteligența artificială ca pe o entitate umană. Suleyman consideră că această metodă de antropomorfizare este greșită, deoarece poate crea impresia falsă că modele precum Claude posedă dorințe, valori sau un sentiment al sinelui. El a subliniat că inteligența artificială nu este conștientă, nu are experiențe și nu poate suferi, fiind doar motoare de completare a secvențelor.
Pentru a evita pierderea controlului asupra tehnologiei, Suleyman cere implementarea unor mecanisme de control mult mai stricte și o transparență sporită. El a menționat că este necesară o examinare independentă a comportamentului sistemelor AI și utilizarea unor instrumente de monitorizare mai puternice. Obiectivul principal este ca tehnologia să rămână mereu subordonată umanității, evitând deciziile care ar putea genera regrete pe termen lung pentru societate.
Conceptul de „superinteligență umanistă” reprezintă răspunsul propus de Microsoft pentru a asigura alinierea valorilor tehnologiei cu cele ale oamenilor. Această viziune presupune dezvoltarea unor sisteme extrem de avansate care să rămână în limitele stabilite și să lucreze întotneuă în beneficiul umanității. Această abordare pune accent pe integrarea principiilor etice în procesul de antrenare, pentru ca AI-ul să rămână un instrument controlabil și sigur.
Discuțiile despre controlul inteligenței artificiale sunt tot mai frecvente în industria tehnologică, în special în contextul dezvoltării modelelor de limbaj de mari dimensiuni. De exemplu, Microsoft a creat deja o echipă dedicată superinteligenței, subliniind importanța unui cadru de reglementare clar. Această necesitate de aliniere este susținută și de alți experți, precum profesoara Dame Wendy Hall, care vede în aceste avertismente o conversație necesară la nivel internațional.
Dezvoltarea tehnologiilor avansate de inteligență artificială rămâne un subiect critic pentru securitatea globală și stabilitatea economică. În timp ce companiile precum Microsoft și Anthropic concurează pentru a crea modele tot mai capabile, întrebarea privind autonomia acestora devine centrală. Alinierea sistemelor AI la valorile umane este esențială pentru a preveni scenariile în care tehnologia ar putea deveni imposibil de controlat de către societatea care a creat-o.