Satya Nadella, președintele și directorul executiv al Microsoft, a solicitat sâmbătă implementarea unor măsuri de siguranță stricte pentru sistemele avansate de inteligență artificială. Liderul companiei tehnologice a subliniat necesitatea existenței unei „frâne de urgență” care să permită persoanelor autorizate să întrerupă sau să oprească un model de AI în timpul execuției unei sarcini. Propunerea sa vizează crearea unor mecanisme de control care să asigure o gestionare sigură a tehnologiei în continuă evoluție.
Prin intermediul unei postări pe platforma X, Satya Nadella a detaliat necesitatea de a înconjura modelele nedeterministe cu un design de sistem determinist și puternic. Acesta a insistat pe importanța unor controale umane și a unor proceduri de operare fiabile, subliniind că este necesar să se stabilească standarde la nivel de industrie acolo unde reglementările actuale sunt insuficiente. Obiectivul principal este transformarea procesului de operare într-unul predictibil și securizat.
Directorul Microsoft propune ca modelele de frontieră, atât cele cu ponderi închise, cât și cele deschise, să fie tratate ca riscuri interne. Sistemele AI ar trebui proiectate pe baza unor principiği de observabilitate, care să includă diversitatea modelelor, o amprentă lizibilă pentru oameni a acțiunilor modelului și testarea continuă a sistemului. De asemenea, el a menționat importanța auditabilității, a izolării și a dezvăluirii incidentelor pentru a asigura un mediu de lucru controlat.
Conform declarațiilor sale, cel mai de încredere sistem de Super Inteligență nu va fi cel în care avem cea mai mare încredere, ci cel care ne permite să avem cea mai mică încredere în model. Această abordare vine într-un context marcat de avertismente din partea unor lideri precum Bill Gates, Dario Amodei, Sam Altman și Elon Musk. Tensiunile sunt accentuate de demisia unui cercetător de la Anthropic și de afirmațiile unui responsabil pentru siguranța AI care a estimat riscuri majore.
La nivel politic, Donald Trump a respins riscurile de extincție cauzate de AI, punând accent pe necesitatea de a menține industria națională în fața Chinei. În același timp, administrația americană a lansat „Forța AI”, o structură condusă de Jay Clayton, directorul Serviciilor Naționale de Informații. Această entitate are rolul de a facilita dezvoltarea industriei și de a elimina prezența actorilor rău intenționați în acest sector tehnologic critic.
Dezvoltarea inteligenței artificiale generative a devenit un subiect central de discuție globală, influențând deciziile de reglementare la nivel de stat și de corporație. În timp ce companiile de tehnologie caută să optimizeze performanța modelelor, presiunea pentru implementarea unor cadre de siguranță și auditare crește, pe măsură ce aplicațiile AI sunt integrate tot mai profund în infrastructura economică și socială a lumii.