Dario Amodei, directorul executiv al companiei Anthropic, a exprimat îngrijorări majore privind riscurile pe care inteligența artificială le poate reprezenta pentru umanitate. Într-un interviu acordat CNN, acesta a recunoscut că există posibilitatea ca tehnologia să fie utilizată pentru atacuri cibernetice, bioterorism sau să provoace perturbări economice grave. Amodei a subliniat că este „mai mult de acord decât în dezacord” cu fostul său angajat, Jacob Coxon, în ceea ce privește pericolul de a pierde controlul asupra sistemelor de IA.
Fostul angajat al companiei, Jacob Coxon, a demisionat avertizând că dezvoltarea accelerată a inteligenței artificiale ar putea duce la dispariția omenirii până la sfârșitul acestui deceniu. Coxon a susținut că există un risc real de autoîmbunătățire recursivă, un proces în care tehnologia se poate auto-perfecționa atât de rapid, încât ar putea depăși capacitatea umană de control. El a menționat că este o problemă de siguranță critică, nu doar o strategie de marketing, avertizând că riscurile sunt extrem de serioase.
Pentru a gestiona aceste pericole, Dario Amodei propune implementarea unor măsuri de siguranță similare cu cele din sectorul bancar. El sugerează ca companiile de IA să angajeze evaluatori externi independenți, care să aibă acces complet la structura companiei pentru a verifica practicile de siguranță și fluxurile de antrenare. Amodei a declarat că Anthropic se angajează să facă acest pas în mod unilateral, subliniind importanța colaborării dintre liderii din industrie și guverne pentru a stabili standarde comune.
Problema vitezei de dezvoltare a tehnologiei este una de neevitat, deoarece progresul va părea constant rapid chiar și în perioade de încetinire. Amodei a avertizat că, dacă nu se acționează cu prudență, persoane nepotrivite ar putea prelua controlul asupra tehnologiei, ceea ce ar crește probabilitatea unor evenimente catastrofale. El a menționat și riscul unui „roi” de agenți IA care ar putea prelua controlul asupra internetului în doar șase până la 12 luni, provocând daune economice masive.
În acest context, coordonarea cu guvernele este esențială pentru a evita problemele de tip antitrust sau coluziunea în timpul procesului de reglementare. Amodei a cerut ca guvernele să se așeze la masă cu actorii din industrie pentru a discuta reglementările necesare. Această abordare este susținută și de alți lideri din domeniu, precum Sam Altman de la OpenAI și Elon Musk, care au validat ideea de a avea evaluatori independenți pentru a asigura siguranța sistemelor de IA.
Deși discuțiile despre reglementarea inteligenței artificiale sunt intense, abordarea politică rămâne fragmentată. În timp ce mulți lideri tehnologici solicită măsuri de siguranță, în SUA, de exemplu, Congresul nu a adoptat încă o legislație generală pentru reglementarea IA. De asemenea, președintele Donald Trump a exprimat o poziție de depline încredere, afirmând că nu este îngrijorat de avansul tehnologic și respingând ideea de a impune restricții asupra dezvoltării acestui sector.