Satya Nadella, directorul general al Microsoft, a solicitat implementarea unor mecanisme de control independente și a unei „frâne de urgență” în cadrul sistemelor avansate de inteligență artificială. Această propunere, raportată de CNBC, vizează capacitatea persoanelor autorizate de a întrerupe sau de a opri funcționarea unui model de IA chiar și în momentul în care acesta execută o sarcină specifică. Mesajul a fost publicat sâmbătă pe platforma X, subliniind necesitatea unor măsuri de securitate riguroase.
Conform declarațiilor sale, dezvoltarea unor sisteme AI tot mai puternice trebuie să fie însoțită de proceduri operaționale fiabile și de posibilitatea intervenției umane directe. Nadella a argumentat că modelele nedeterministe, ale căror răspunsuri și acțiuni nu pot fi anticipate cu certitudine în toate situațiile, trebuie înconjurate de o arhitectură solidă de sisteme deterministe. El a insistat pe necesitatea stabilirii unor standarde industriale acolo unde normele actuale sunt considerate insuficiente pentru gestionarea riscurilor.
Directorul Microsoft a propus ca modelele de ultimă generație, atât cele proprietare, cât și cele cu parametri accesibili public, să fie tratate din perspectiva securității asemenea unor potențiale amenințări interne. Printre măsurile tehnice recomandate se numără utilizarea unor modele diverse, testarea continuă a sistemelor, izolarea componentelor periculoase și păstrarea unei evidențe inteligibile pentru oameni a acțiunilor efectuate de AI. De asemenea, el a menționat importanța auditării și a raportării incidentelor.
Propunerile sale vin într-un context de intensificare a avertismentelor privind riscurile dezvoltării accelerate a inteligenței artificiale. Personalități precum Bill Gates, Sam Altman, Dario Amodei și Elon Musk au atras atenția asupra ritmului rapid al progreselor tehnologice și a insuficienței măsurilor de securitate. Unii dintre acești lideri au susținut necesitatea unor protecții mai stricte sau chiar încetinirea dezvoltării celor mai avansate sisteme de inteligență artificială din industrie.
În ceea ce privește abordarea politică, Donald Trump a respins în repetate rânduri avertismentele privind riscurile existențiale ale inteligenței artificiale, insistând pe menținerea avantajului tehnologic al Statelor Unite față de China. Administrația sa a anunțat recent constituirea structurii „AI Force”, condusă de Jay Clayton, cu scopul de a sprijinirea industriei și de a identifica actorii care utilizează abuziv această tehnologie.
Discuțiile privind siguranța AI reflectă o tensiune crescută între viteza de inovare și necesitatea de a preveni scenarii catastrofale. În timp ce unii experți au avertizat despre posibilitatea ca tehnologia să provoace dispariția omenirii în următorul deceniu, alții se concentrează pe dezvoltarea de noi structuri guvernamentale pentru monitorizarea utilizării abuzive a algoritmilor în mediul global.