Directorul general al Microsoft, Satya Nadella, a solicitat introducerea unor mecanisme de control independente și a unei „frâne de urgență” în cadrul sistemelor avansate de inteligență artificială. Această măsură ar permite persoanelor autorizate să întrerupă sau să oprească funcționarea unui model de AI chiar și în momentul în care acesta execută o sarcină specifică. Propunerea a fost făcută prin intermediul unui mesaj publicat pe platforma X, prin care s-a subliniat necesitatea unor proceduri operaționale fiabile.
Satya Nadella a avertizat că dezvoltarea unor sisteme AI tot mai puternice trebuie să fie însoțită obligatoriu de măsuri stricte de securitate și de posibilitatea intervenției umane. El a propus ca modelele nedeterministe, ale căror răspunsuri și acțiuni nu pot fi anticipate cu certitudine în toate situațiile, să fie înconjurate de o arhitectură solidă de sisteme deterministe. Obiectivul este de a stabili standarde industriale acolo unde reglementările actuale sunt considerate insuficiente pentru gestionarea riscurilor.
Conform propunerilor directorului Microsoft, modelele AI de ultimă generație, atât cele proprietare, cât și cele cu parametri accesibili public, trebuie tratate din perspectiva securității asemenea unor potențiale amenințări interne. Sistemele trebuie proiectate pe baze care să permită monitorizarea permanentă a comportamentului și verificarea deciziilor luate. Printre măsurile tehnice menționate se numără utilizarea unor modele diverse, testarea continuă a sistemelor, izolarea componentelor periculoase și menținerea unei evidențe a acțiunilor care să fie inteligibilă pentru oameni.
Discursul lui Satya Nadella vine într-un context de intensificare a avertismentelor privind riscurile dezvoltării accelerate a inteligenței artificiale. Personalități precum Bill Gates, Dario Amodei, Sam Altman și Elon Musk au atras atenția asupra insuficienței măsurilor de securitate actuale. În acest sens, directorul Microsoft a concluzionat că cel mai de încredere sistem de superinteligență nu va fi cel în care avem cea mai mare încredere, ci cel care ne permite să avem cât mai puțină nevoie să avem încredere în model.
Pe plan politic, abordările diferă semnificativ între lideri. Președintele american Donald Trump a respins repetat avertismentele privind riscurile existențiale ale inteligenței artificiale, insistând pe menținerea avantajului tehnologic al Statelor Unite față de China. Administrația sa a anunțat recent crearea structurii „AI Force”, condusă de Jay Clayton, cu scopul de a sprijini industria și de a identifica utilizatorii care abuzează de această tehnologie în moduri neadecvate.
Evoluția tehnologiei de inteligență artificială este deja anticipată ca având un impact direct asupra economiei de consum. Există perspective conform cărora această tehnologie ar putea schimba modul în care sunt stabilite prețurile alimentelor și ale meniurilor fast-food, prin aplicarea unor tarife personalizate pentru fiecare consumator în parte, reflectând astfel o schimbare majoră în dinamica piețelor de retail și servicii.