Dario Amodei, liderul Anthropic, a solicitat companiilor de inteligență artificială să reducă deliberat ritmul de dezvoltare a modelelor de înaltă performanță. Această propunere vine din necesitatea de a asigura un echilibru între progresul tehnologic și implementarea unor măsuri de siguranță adecvate. Amodei subliniază că procesul nu vizează oprirea progresului tehnic sau a antrenării modelelor, ci oferirea timpului necesar companiilor pentru a-și alinia și proteja sistemele de dezvoltare.
Planul propus de liderul Anthropic se desfășoară în trei etape distincte, menite să nu afecteze avantajul comercial sau poziția globală a Statelor Unite. Prima etapă presupune acordarea unui nivel de acces similar celui al angajaților către evaluatori independenți, care să poată verifica măsurile de siguranță. Etapa a doua vizează coordonarea companiilor de AI din țările democratice pentru stabilirea unor standarde comune, în timp ce a treia etapă necesită acorduri între guvernele democratice și cele autoritare.
Inițiativa a fost susținută de Sam Altman, CEO-ul OpenAI, care a declarat că încetinirea dezvoltării capacităților avansate de AI este deja un subiect central în cadrul companiei sale. Altman a confirmat că OpenAI va adopta o abordare similară prin oferirea unui acces extins către evaluatori independenți. De asemenea, Elon Musk a susținut public propunerea lui Amodei, afirmând că acesta are dreptate în ceea ce privește necesitatea unei reglementări mai stricte.
Contextul acestei solicitări este marcat de demisia cercetătorului Jacob Coxon din cadrul Anthropic, care a criticat abordările actuale ale Anthropic și OpenAI. Coxon a susținut că unii dezvoltatori de AI cred că tehnologia ar putea duce la dispariția omenirii până la finalul deceniului. Amodei consideră că riscurile trebuie tratate mult mai serios decât în 2023, când modelele nu aveau capacitatea de a acționa în lumea reală la fel de eficient.
Obiectivul final al acestui proces este câștigarea unui interval de un an sau doi înainte ca modelele AI să atingă niveluri critice de capacitate. Acest interval de timp ar putea oferi cercetătorilor posibilitatea de a îmbunătăți alinierea sistemelor și de a reduce riscul ca tehnologia să scape de sub controlul uman. Această strategie vizează protejarea societății în fața unei evoluții tehnologice care poate deveni rapid imposibil de gestionat fără mecanisme de siguranță robuste.
În sectorul tehnologic, discuțiile despre controlul riscurilor sunt tot mai frecvente pe măsură ce capacitățile de calcul și algoritmii devin tot mai complecși. Deși dezvoltarea tehnologică este un motor economic major, experții avertizează că lipsa unui cadru de siguranță bine definit poate genera instabilitate. Această nevoie de reglementare este esențială pentru a menține controlul asupra sistemelor care pot influența direct structurile economice și sociale globale.