Dario Amodei, CEO-ul companiei Anthropic, a solicitat companiilor din sectorul inteligenței artificiale să reducă deliberat ritmul de dezvoltare a modelelor tot mai performante. Această propunere vizează asigurarea unor măsuri de siguranță care să țină pasul cu noile capacități tehnologice apărute. Amodei susține că procesul de încetinire nu presupune oprirea progresului tehnic sau a antrenării modelelor, ci oferirea timpului necesar companiilor pentru a-și alinea și proteja sistemele dezvoltate.
Planul propus de liderul Anthropic este structurat în trei etape distincte, menite să protejeze poziția Statelor Unite în cursa globală pentru AI fără a sacrifica avantajul comercial. Prima etapă prevede acordarea unui nivel de acces comparabil cu cel al angajaților către evaluatori independenți, pentru verificarea siguranței și raportarea incidentelor. A doua etapă se concentrează pe coordonarea companiilor de AI din țările democratice pentru stabilirea unor standarde comune, în timp ce a treia etapă necesită acorduri între guvernele democratice și cele autoritare.
Inițiativa a primit sprijinul lui Sam Altman, CEO-ul OpenAI, care a declarat că subiectul încetinirii dezvoltării celor mai avansate capacități AI este acum central în discuțiile interne ale companiei sale. Altman a susținut și ideea privind accesul extins pentru evaluatorii independenți, anunțând că OpenAI va adopta o măsură similară. De asemenea, Elon Musk a oferit un sprijin public la această propunere, afirmând că Dario are dreptate în ceea ce privește necesitatea unei abordări mai prudente.
Avertismentul lui Amodei vine într-un moment de tensiune, după demisia cercetătorului Jacob Coxon din cadrul Anthropic. Acesta din urmă a acuzat companiile Anthropic și OpenAI că gestionează riscurile într-un mod periculos, menționând că unii dezvoltatori cred că tehnologia ar putea provoca dispariția omenirii până la finalul deceniului. Amodei subliniază că riscurile actuale sunt mult mai serioase decât în 2023, deoarece modelele actuale sunt mult mai capabile să acționeze în lumea reală.
Câștigarea unui an sau a doi înainte ca modelele AI să atingă niveluri critice de capacitate ar putea oferi cercetătorilor timpul necesar pentru a îmbunătăți alinierea tehnologiei. Această perioadă de timp este considerată esențială pentru a reduce riscul ca dezvoltarea să scape de sub controlul uman. Obiectivul principal rămâne menținerea unui echilibru între progresul tehnologic și capacitatea de a gestiona impactul acestuia asupra siguranței globale, într-un cadru de reglementare bine definit.
Dezbaterea privind siguranța inteligenței artificiale reflectă o preocupare crescândă în rândul liderilor tehnologici privind capacitatea de control asupra sistemelor autonome. În timp ce modelele de limbaj și procesarea datelor devin tot mai complexe, discuțiile despre reglementări și standarde de siguranță devin un punct central în politica tehnologică globală. Această evoluție subliniază necesitatea unei coordonări între sectorul privat și instituțiile guvernamentale pentru a gestiona riscurile emergente de tip tehnologic.