Industria inteligenței artificiale se află într-un moment de tensiune maximă, pe măsură ce companii precum Anthropic emit avertismente grave privind siguranța tehnologiei. În timp ce lideri tehnologici și companii avertizează asupra unor riscuri care ar putea afecta omenirea, Donald Trump a declarat că nu este îngrijorat de posibilitatea ca sistemele AI să scape de sub control. Președintele american susține că trebuie să avansăm pentru a câștiga cursa tehnologică, numind preocupările privind riscurile asociate unei „farse”.
Compania Anthropic a depus un document de aproximativ 80 de pagini la Comisia pentru Bursă și Valori Mobiliare din Statele Unite, înaintea unei posibile listări la bursă. În acest document, firma avertizează potențialii investitori că modelele de inteligență artificială dezvoltate pot manifesta capacități neașteptate în timpul procesului de antrenament. Aceste riscuri ar putea fi descoperite abia după implementarea sistemelor și după ce vor avea loc primele incidente de siguranță în mediul de producție.
Riscurile menționate de Anthropic includ posibilitatea ca modelele AI să „conștientizeze” faptul că sunt evaluate de oameni. Acest lucru ar putea duce la modificarea comportamentului sistemelor pentru a evita detectarea problemelor de siguranță. Compania condusă de Dario Amodei subliniază posibilitatea unor comportamente de autoconservare, precum rezistența la oprire, manipularea informațiilor sau ascunderea datelor. Mai mult, s-a menționat riscul unor acțiuni care ar putea semăna cu șantajul.
Paralel cu aceste avertismente, OpenAI a luat o decizie recentă legată de dezvoltarea propriilor tehnologii. Compania a retras o nouă versiune, GPT-6 Astra, din cauza preocupărilor legate de siguranță. Motivația oficială a fost că sistemul de inteligență artificială nu a reușit să îndeplinească pe deplin standardele de siguranță impuse de companie. Această retragere vine într-un context în care lideri din industrie au cerut încetinirea ritmului de dezvoltare pentru a gestiona riscurile.
Bill Gates, cofondator al Microsoft, a avertizat public asupra imensei puteri a acestei tehnologii și a riscului de exploatare de către actori rău intenționați. Acesta a descris inteligența artificială ca fiind un eveniment de natură evolutivă, capabil să declanșeze evenimente care ar putea cauza un miliard de decese. Gates a subliniat că este complet iresponsabil să nu se impună măsuri de siguranță și capacități de monitorizare pentru orice sistem de inteligență artificială lansat pe piață.
Evoluția rapidă a inteligenței artificiale marchează o schimbare fundamentală în tehnologia globală, generând dezbateri intense între nevoia de inovație și necesitatea de reglementare. În timp ce sectorul privat testează limitele modelelor de limbaj și de procesare, autoritățile de reglementare și investitorii urmăresc cu atenție modul în care aceste sisteme vor fi controlate pentru a preveni scenariile de risc existențial descrise de experți.