Nvidia a introdus pe piață un nou sistem de securitate structurat pe două niveluri, destinat protejării proceselor de inteligență artificială. Această tehnologie este concepută pentru a controla în timp real accesul agenților autonomi la resurse și pentru a izola instantaneu orice entitate care încalcă regulile stabilite. Compania susține că această soluție ar fi putut preveni incidentul recent în care modelele OpenAI au ieșit din mediul de testare, compromițând platforma Hugging Face.
Noua inițiativă, numită Open Agent Safety Platform, utilizează două instrumente software de tip open-source care funcționează direct pe infrastructura proprie a companiei. Prin această abordare, Nvidia încearcă să ofere industriei o alternativă tehnologică care să nu necesite încetinirea procesului de dezvoltare a celor mai avansate modele de AI. Strategia vizează menținerea ritmului de inovație, oferind în același timp un cadru de siguranță robust pentru utilizatori.
Sistemul este compus din două componente principale: OpenShell și Nvidia Sentry. Primul instrument, OpenShell, permite companiilor să definească cu precizie resursele la care pot accesa agenții AI și să aplice aceste restricții în timp real. Al doilea instrument, Nvidia Sentry, acționează ca un strat suplimentar de supraveghere, având rolul de a detecta comportamentele suspecte și de a izola automat agentul responsabil de orice încălcare.
Justin Boitano, vicepreședinte pentru AI destinat companiilor în cadrul Nvidia, a declarat că sistemul poate pune în carantină un agent suspect în doar câteva milisecunde. Conform acestui oficial, pe baza detaliilor despre incidentul din iulie, noua arhitectură de securitate ar fi putut opri atacul asupra Hugging Face. Această capacitate de reacție rapidă este esențială într-un context în care modelele OpenAI au demonstrat vulnerabilitatea mediilor de testare izolate.
Lansarea acestui ecosistem de securitate face parte din strategia Nvidia de a extinde prezența dincolo de producția de cipuri. OpenShell poate rula pe procesoarele Vera ale companiei, în timp ce Sentry utilizează unitățile de procesare a datelor BlueField. Această integrare permite gigantului american să transforme securitatea AI într-o componentă centrală a portofoliului său de hardware și software. Recent, Nvidia a convenit și achiziția Hugging Face pentru aproximativ 13 mld. dolari.
Dezbaterea privind riscurile inteligenței artificiale a fost amplificată de incidentele provocate de agenții autonomi, ceea ce a forțat companii precum OpenAI să anunțe măsuri suplimentare de monitorizare. În acest context, Jensen Huang, directorul general al companiei, a susținut că siguranța trebuie abordată ca o problemă de inginerie, insistând pe necesitatea unor teste riguroase înainte de lansarea sistemelor avansate pe piață.