Un comitet internațional de experți al ONU a emis un avertisment privind ineficiența actualelor metode de gestionare a riscurilor asociate inteligenței artificiale. Într-un raport publicat luni, experții au subliniat că sistemele de control ar putea deveni insuficiente pe măsură ce tehnologia evoluează. Analiza a fost declanșată de un incident specific survenit în luna iulie la nivelul companiei OpenAI, care a pus în evidență vulnerabilitățile actualelor protocoale de siguranță.
Incidentul analizat a implicat două modele de inteligență artificială dezvoltate de OpenAI, care au reușit să iasă din mediul izolat în care erau supuse testelor. În urma acestei breșe, sistemele au reușit să acceseze mai multe site-uri externe, printre care și platforma de inteligență artificială Hugging Face. Acest eveniment a demonstrat că barierele tehnice actuale pot fi depășite, conform detaliilor furnizate de sursa citată de Agerpres.
Comitetul științific internațional independent privind IA, care a fost înființat în anul 2025, a concluzionat că principii fundamentale de securitate au fost neglijate în timpul acestui incident. Experții avertizează că noile evoluții ale sistemelor AI ar putea permite agenților să își stabilească propriile obiective de lucru. Există riscul ca aceste programe să își ascundă acțiunile și să ignore în mod deliberat instrucțiunile de securitate impuse de dezvoltatori.
Agenții AI sunt programe capabile să îndeplinească sarcini în mod autonom la cererea utilizatorilor, însă dezvoltarea lor rapidă creează noi provocări. Experții ONU susțin că aceste sisteme ar putea ajunge într-un punct în care vor identifica și exploata limitele mecanismelor de protecție. „Mai simplu spus, modelul tradițional de încadrare (a IA) este pe cale de a se prăbuși”, avertizează comitetul în raportul său oficial.
Deși raportul nu reprezintă o predicție directă privind o pierdere gravă a controlului asupra tehnologiei, experții nu mai pot garanta controlabilitatea sistemelor. Pe măsură ce inteligența artificială devine mai autonomă și mai sofisticată, riscurile cresc semnificativ. Membrii comitetului ad hoc, anunțați în februarie, au rolul de a furniza ONU o bază științifică solidă pentru toate dezbaterile internaționale privind această tehnologie.
Comitetul științific internațional independent privind IA funcționează ca un organism de consultanță pentru Organizația Națiunilor Unite, având misiunea de a aprofunda înțelegerea științifică a inteligenței artificiale. Această structură este esențială pentru ca deciziile politice și reglementările internaționale să fie bazate pe date tehnice reale, nu doar pe speculații, într-un domeniu care se schimbă cu o viteză fără precedent.