Dario Amodei, CEO al companiei Anthropic, a emis un semnal de alarmă privind ritmul de dezvoltare al modelelor de inteligență artificială. Acesta a sugerat că ar fi util ca progresul tehnologic să încetinească, în contextul în care modelele se apropie de un stadiu de auto-îmbunătățire recursivă. În această fază, AI-ul ar putea fi capabil să își proiecteze singuri succesorii, fără o intervenție umană semnificativă, ceea ce pune presiune pe structurile de guvernanță actuale.
Situația este critică deoarece viteza de adopție a tehnologiei depășește capacitatea de reglementare. Anthropic a raportat că peste 80% din codul său intern este acum generat de AI, iar orizontul de sarcini pe care un model le poate gestiona autonom se dublează la fiecare patru luni. Această evoluție rapidă obligă companiile să își revizuiască politicile de risc IT, deoarece un context de risc de acum 12-18 luni nu mai este relevant în prezent.
Problema este de natură colectivă, asemănătoare celor gestionate de băncile centrale sau autoritățile de concurență. Pentru consiliile de administrație din sectoare reglementate, precum băncii, asigurările sau energia, avertismentul lui Dario Amodei impune o analiză de risc de tip anticipativ. Este esențial ca companiile să comunice deschis riscurle reputaționale și sistemice, în loc să aștepte ca acestea să devină crize majore.
Pentru a gestiona această incertitudine, companiile trebuie să implementeze măsuri de protecție concrete. Primul pas este existența unei polițe de asigurare cybersecurity negociate cu consultanță de specialitate, pentru a evita subdimensionarea în fața incidentelor reale. În al doilea rând, este necesară implicarea unor specialiști externi independenți care să verifice periodic securitatea sistemelor prin programe de tip bug bounty, pentru a descoperi vulnerabilitățile înainte de exploatarea lor.
Fiecare organizație ar trebui să aibă răspunsuri clare la întrebări fundamentale: cine monitorizează evoluția capabilităților AI relevante pentru afacere și ce prag de autonomie declanșează o discuție la nivel de board. În loc de abordarea de tipul „ce va fi, va fi”, companiile trebuie să definească un nivel minim de pregătire pentru a nu fi depășite de schimbările tehnologice care vin din interiorul industriei.
În contextul actual al tehnologiei, riscurile de securitate și guvernanța sunt subiecte de actualitate în mediul de afaceri. De exemplu, în timp ce unele evenimente de publică interesul pentru securitate sau reglementări, companiile trebuie să rămână vigilente în fața noilor tehnologii. O abordare proactivă în gestionarea riscului IT și a securității cibernetice rămâne esențială pentru stabilitatea operațională a oricărei entități economice.