Compania americană Anthropic a anunțat joi că a extins nivelul de acces oferit organizației nonprofit METR, specializată în evaluarea sistemelor de inteligență artificială. Această mișcare are ca scop permiterea unei verificări independente asupra modelelor avansate dezvoltate de companie, a măsurilor de siguranță implementate și a proceselor de gestionare a riscurilor. Decizia vine într-un moment în care transparența proceselor de testare devine un subiect critic în industria tehnologiei.
Pentru a facilita acest proces de audit, șase angajați ai METR au primit echipamente proprii ale companiei și spații de lucru dedicate. Aceștia au primit acces la instrumente și sisteame interne care sunt similare cu cele utilizate de echipele din cadrul Anthropic care se ocupă direct de evaluarea riscurilor. Acest nivel de integrație tehnică este comparabil cu cel oferit propriilor angajați ai companiei americane, facilitând o analiză profundă.
Organizația METR va avea capacitatea de a publica în mod independent concluziile sale referitoare la riscurile, incidentele și practicile de siguranță ale Anthropic. Acest proces de comunicare se va desfășura fără a fi necesară aprobarea prealabilă din partea companiei. Singurele restricții impuse vizează eliminarea unor informații sensibile, cum ar fi datele clienților, informațiile protejate juridic sau anumite detalii specifice privind arhitectura modelelor de inteligență artificială.
Această inițiativă de la Anthropic urmărește să ofere evaluatorilor externi o autonomie sporită în examinarea sistemelor AI. Scopul este ca aceștia să poată comunica public eventualele vulnerabilități sau deficiențe ale măsurilor de siguranță fără constrângeri. Prin acest model, compania încearcă să demonstreze că sistemele sale pot fi supuse unui control extern riguros, oferind în același timp libertate de comunicare pentru identificarea problemelor de securitate.
Decizia este luată pe fondul preocupărilor exprimate de cercetători și evaluatori independenți în domeniu. Aceștia au avertizat că marile companii de inteligență artificială ar putea exercita o influență excesivă asupra verificărilor externe. Riscul identificat este că restricționarea accesului la informații sensibile sau impunerea unor condiții stricte privind publicarea rezultatelor ar putea compromite integritatea și obiectivitatea auditurilor efectuate de entitățile terțe.
Dezvoltarea tehnologiilor de inteligență artificială este însoțită de o expansiune rapidă a dispozitivelor care utilizează aceste sisteme. Recent, Amazon a lansat două dispozitive cu inteligență artificială capabile să înregistreze și să analizeze conversațiile utilizatorilor. Această tendință de integrare a AI în viața cotidiană subliniază importanța unor protocoale de siguranță și de evaluare a riscurilor, pe măsură ce tehnologia devine tot mai prezentă în mediul privat.