Companiile de inteligență artificială implicate în dezvoltarea modelelor de frontieră au semnat Acordul Casei Albe privind Superinteligența. Prin acest document, dezvoltatorii s-au angajat să implementeze patru niveluri distincte de control și audit pentru a gestiona riscurile tehnologice. Obiectivul principal este asigurarea unei dezvoltări sigure, care să construiască încredere atât în fața clienților, cât și în fața publicului larg, garantând că tehnologia funcționează conform intențiilor inițiale.
Primul nivel de control vizează implementarea unor procese interne robuste pentru monitorizarea capacităților și alinierea modelelor în timpul instruirii și implementării. Accentul este pus pe gestionarea riscurilor în domenii critice, precum securitatea cibernetică, biosecuritatea și amenințările chimice. Companiile trebuie să se asigure că modelele lor nu pot fi utilizate pentru hacking sau pentru accesarea neintenționată a sistemelor tehnice, identificând și remediind orice problemă apărută prompt.
Al doilea nivel presupune consolidarea unei echipe interne dedicate, având rolul de a verifica funcționarea tuturor mecanismelor de monitorizare și detectare. Al treilea nivel introduce parteneriate cu auditori sau evaluatori externi independenți, care vor efectua evaluări asupra eficienței controalelor și a proceselor de detectare. Această structură externă este menită să verifice dacă sistemele de supraveghere funcționează într-adevăr conform standardelor stabilite de dezvoltatori.
Ultimul nivel de control implică desemnarea unui comitet independent în cadrul consiliului de administrație al fiecărei companii. Acest comitet are responsabilitatea de a supraveghea activitatea echipelor interne și de a primi rapoarte directe de la auditorii și evaluatorii, atât interni, cât și externi. Rolul acestui organism este de a garanta că orice deficiență sau problemă identificată în procesul de audit este remediată într-un mod eficient și transparent.
Companiile participante vor organiza întâlniri periodice pentru a stabili standarde și bune practici menite să îmbunătățească siguranța sistemelor de inteligență artificială. Documentul subliniază că, pe termen lung, ar putea deveni necesară codificarea acestor măsuri de control și audit în cadrul legilor sau al reglementărilor oficiale. În prezent, dezvoltatorii consideră implementarea acestor proceduri ca fiind critică pentru securitatea globală, indiferent de obligația legală imediată.
Dezvoltarea modelelor de frontieră reprezintă etapa avansată a inteligenței artificiale, caracterizată prin capacități care depășesc performanțele modelelor standard. Aceste sisteme necesită o supraveghere extrem de strictă din cauza potențialului de impact asupra infrastructurilor critice și a securității naționale. Reglementarea acestor tehnologii devine un subiect central în discuțiile globale privind guvernanța digitală și prevenirea utilizării malițioase a algoritmilor de înaltă performanță.