Oficiul european pentru inteligență artificială a trecut de la analiza teoretică a riscurilor la investigarea unor incidente concrete de pierdere a controlului asupra unor modele avansate. Autoritatea a început solicitarea de informații de la companiile implicate, confirmând că a primit deja rapoarte privind incidente grave. Această schimbare de abordare indică faptul că investigațiile se concentrează acum pe evenimente reale, nu doar pe scenarii ipotetice privind viitoarele modele de inteligență artificială foarte capabile.
Comisia Europeană a menționat că procesul de colectare a datelor nu implică automat sancțiuni sau constatarea unei încălcări a regulamentului AI Act. Procedura actuală se situează în etapa de investigare și evaluare a riscurilor, scopul fiind de a înțelege exact ce s-a întâmplat. Deocamdată, Comisia nu a oferit detalii publice despre companiile vizate, despre modelele specifice sau despre natura exactă a incidentelor, evitând astfel interpretările că sistemele ar fi devenit autonome.
Noile solicitări de informații vor fi formulate prin combinarea întrebărilor proprii ale Oficiului AI cu cele pregătite de Scientific Panel. Acest grup de experți include 60 de specialiști independenți creați pentru a sprijini aplicarea AI Act prin evaluări tehnice specializate. Expertiza acestui panel este esențială pentru a determina dacă dezvoltatorii au respectat obligațiile de securitate și dacă măsurile de prevenire au fost suficiente în contextul incidentelor raportate recent.
Experții din cadrul Scientific Panel recomandă o supraveghere mult mai strictă asupra modelelor interne utilizate în procesele de dezvoltare și testare. Aceștia subliniază necesitatea unor capacități europene îmbunătățite pentru detectarea și investigarea incidentelor, astfel încât autoritățile să nu depindă exclusiv de raportările voluntare ale companiilor. O preocupare majoră este monitorabilitatea, deoarece anumite tehnici de antrenare pot face comportamentul modelelor mult mai dificil de observat și de controlat.
Analiza grupului de experți vizează și două evoluții care complică supravegherea, precum posibilitatea ca sistemele AI să contribuie la propria îmbunătățire. De asemenea, se urmărește impactul tehnicilor care reduc vizibilitatea asupra proceselor interne ale modelului, făcând detectarea timpurie a comportamentelor periculoase mai dificilă. Panelul susține necesitatea unei cooperări internaționale și a unui schimb de informații între autorități, având în vedere că modelele avansate sunt distribuite pe multiple jurisdicții globale.
Regulamentul AI Act stabilește deja cadrul juridic prin care furnizorii de modele de inteligență artificială de uz general cu risc sistemic trebuie să gestioneze riscurile. Aceștia au obligația de a efectua testări adversariale, de a asigura securitate cibernetică și de a raporta fără întârziere orice incidente grave. În prezent, Comisia utilizează aceste instrumente pentru a verifica dacă măsurile de evaluare și prevenire cerute de lege au fost implementate corect de către dezvoltatori.