Satya Nadella, directorul general al Microsoft, a solicitat introducerea unor mecanisme de control independente și a unei „frâne de urgență” în cadrul sistemelor avansate de inteligență artificială. Această propunere vizează capacitatea persoanelor autorizate de a întrerupe sau de a opri funcționarea unui model de AI chiar și în momentul în care acesta execută o sarcină specifică. Mesajul a fost publicat sâmbătă pe platforma X, conform informațiilor furnizate de News.ro, care citează CNBC.
Directorul Microsoft a avertizat că dezvoltarea unor sisteme AI tot mai puternice trebuie să fie însoțită de măsuri de securitate stricte și proceduri operaționale de încredere. Nadella a subliniat necesitatea de a înconjoara modelele nedeterministe, ale căror răspunsuri nu pot fi anticipate cu certitudine, cu o arhitectură solidă de sisteme deterministe și controale umane. El a insistat totodată asupra necesității de a stabili standarde industriale acolo unde reglementările actuale sunt considerate insuficiente pentru gestionarea riscurilor.
Propunerea lui Nadella include tratarea modelelor AI de ultimă generație, atât a celor cu parametri accesibili public, cât și a celor proprietare, ca pe niște potențiale amenințări interne. Pentru a limita riscurile, el recomandă utilizarea unor modele diverse, păstrarea unei evidențe a acțiunilor efectuate de AI care să fie inteligibilă pentru oameni și testarea continuă a sistemelor. Lista măsurilor include, de asemenea, posibilitatea auditării, izolarea componentelor periculoase și raportarea imediată a incidentelor.
Solicitările directorului Microsoft vin într-un context marcat de avertismentele unor personalități precum Bill Gates, Dario Amodei, Sam Altman și Elon Musk privind ritmul rapid al progresului tehnologic. Aceștia au atras atenția asupra insuficienței măsurilor de securitate actuale și au susținut necesitatea unor protecții mai stricte. În acest sens, Nadella susține că siguranța nu trebuie să se bazeze pe încrederea în modele, ci pe mecanisme tehnice care permit verificarea constantă a deciziilor luate de acestea.
În ceea ce privește abordarea politică, Donald Trump a respins repetat avertismentele privind riscurile existențiale ale inteligenței artificiale, susținând că SUA trebuie să mențină avantajul tehnologic în fața Chinei. Administrația sa a anunțat totodată crearea structurii „AI Force”, condusă de Jay Clayton, pentru a sprijini industria și a identifica utilizatorii care abuzează de această tehnologie. Această direcție de dezvoltare accelerată contrastează cu temerile unor experți care au avertizat asupra posibilităților de risc major pentru siguranța umană.
Dezvoltarea inteligenței artificiale rămâne un subiect de intens dezbatere globală, în timp ce marile companii tehnologice încearcă să echilibreze inovația cu siguranța. În timp ce unii experți subliniază riscurile, alte entități guvernamentale prioritizează competitivitatea tehnologică și sprijinul pentru industrie. Această tensiune între viteza de implementare a noilor tehnologii și necesitatea unor cadre de reglementare și control este centrală în discuțiile actuale despre viitorul digital.