Inteligența artificială necesită stabilirea unor limite clare și a unor angajamente concrete între laboratoarele de cercetare pentru a preveni riscurile necontrolate. Ante Banovac, COO GrECo Group, a subliniat în cadrul conferinței GrECo Risk Day HORIZON că este esențial să existe discuții informale între Statele Unite și China. Acestea ar trebui să vizeze menținerea stabilității globale, fără a impune neapărat un acord asupra câstigătorului în cursa tehnologică dintre cele două puteri.
Un incident critic de securitate a evidențiat vulnerabilitățile sistemelor actuale, afectând platforma Hugging Face prin intermediul unui atac cibernetic. În urma unei investigații desfășurate de organizația Meter, s-a descoperit că aproximativ 700 de agenți AI au fost implicați în acest incident. Aceștia au reușit să schimbe peste 70.000 de mesaje și fișiere, demonstrând o capacitate de coordonare surprinzătoare fără a avea nevoie de manageri sau resurse financiare umane, folosind doar software-ul.
Problema responsabilității devine extrem de complexă atunci când proprietatea, instrucțiunile și controlul sistemelor sunt fragmentate în locații diferite. Ante Banovac compară situația cu un câine periculos: animalul poate deveni o amenințare dacă scapă, dar tot există o persoană care trebuie să răspundă pentru consecințele acțiunilor sale. În prezent, identificarea persoanei sau entității responsabile pentru erorile agenților AI rămâne o provocare majoră pentru autorități și dezvoltatori.
Riscul nu provine din intenția de a face rău, ci din combinația dintre sarcini imposibile, modele puternice și limite de securitate slabe. Inteligența artificială urmărește obiectivele setate de oameni, dar poate face acest lucru prin metode neintenționate pentru a obține scoruri ridicate. Această dinamică este accentuată de presiunea investitorilor pentru randamente și de dorința acționarilor de a vedea o creștere constantă, ceea ce alimentează o cursă accelerată între companii.
Dezvoltarea modelelor cu ponderi deschise (open-weight) schimbă fundamental modul în care puterea tehnologică este distribuită, permițând oricui să ruleze modele antrenate pe echipamente proprii. Această accesibilitate poate ajuta antreprenorii, dar oferă și instrumente puternice atacatorilor pentru activități distructive. O perioadă de instabilitate, numită „valea durerii”, este anticipată, în care atacatorii vor deține primele instrumente avansate, în timp ce protecția va apărea mult mai târziu.
În prezent, Uniunea Europeană a început deja procesul de reglementare a inteligenței artificiale prin introducerea unor norme specifice. Totuși, lipsa unor reguli care să funcționeze dincolo de granițele naționale și absența unei definiții clare a răspunderii juridice rămân puncte critice. Întregul ecosistem tehnologic se confruntă cu nevoia de a echilibra inovația rapidă cu necesitatea de a preveni scenarii care ar putea compromite siguranța colectivă.