Compania Anthropic a dezvăluit că modelul său de inteligență artificială, Claude, este implicat tot mai mult în procesul de cercetare și dezvoltare al propriului sistem. Conform datelor furnizate de companie, aproximativ 90% din activitatea de R&D se desfășoară în colaborare cu Claude, ceea ce înseamnă că modelul poate efectua volume mari de muncă sub îndrumarea directă a unei persoane. Această evoluție marchează o schimbare semnificativă față de luna februare, când acest procent era zero.
Analiza internă a Anthropic indică faptul că Claude a fost capabil să conducă activitățile de cercetare în aproximativ 26% din timp, în timp ce oamenii au asumat doar un rol de supraveghere și au oferit îndrumare la nivel înalt. Compania utilizează o versiune a programului Claude pentru a-și măsura munca de cercetare, folosind un sistem de evaluare dezvoltat de o companie externă, înainte de verificarea finală de către oameni. În prezent, firma dispune de aproximativ 30.000 de agenți de inteligență artificială care desfășoară activități de cercetare și inginerie.
Directorul executiv al Anthropic, Dario Amodei, a cerut companiilor de top din domeniu să coordoneze o încetinire a activității pentru a permite construirea unor bariere de protecție. Această propunere vizează prevenirea scenariului de auto-îmbunătățire recursivă, unde tehnologia ar putea deveni suficient de inteligentă pentru a se auto-perfecționa fără contribuția oamenilor. În acest scenariu, controlul și înțelegerea sistemelor de către oameni ar putea deveni extrem de dificile, conform avertismentelor lui Amodei.
În contextul actual, Anthropic a direcționat aproximativ 6% din puterea de calcul utilizată pentru cercetare și dezvoltare către activități de siguranță. Compania a solicitat altor dezvoltatori de frontieră să publice regular măsurători despre progresul lor și despre alocarea resurselor, pentru a oferi publicului și guvernelor o mai bună vizibilitate asupra ritmului de dezvoltare. Această transparență este considerată esențială pentru a minimiza decalajul de informații dintre laboratoarele de frontieră și restul societății.
Propunerea de încetinire a ritmului de dezvoltare a fost susținută rapid de liderii companiilor rivale, însă a fost criticată de președintele Donald Trump. Discuțiile privind potențialul pericol pe care inteligența artificială îl poate reprezenta pentru umanitate au fost intense în ultima săptămână, la Washington. Tensiunile în cadrul companiei au fost evidențiate și de un fost angajat care a demisionat, susținând că firma se joacă cu viețile oamenilor.
Dezvoltarea rapidă a tehnologiilor de frontieră și discuțiile despre impactul lor global sunt subiecte de interes major în actualul climat geopolitic. În timp ce liderii europeni, precum Macron, monitorizează amenințările hibride, industria tehnologică se confruntă cu dileme etice privind controlul asupra sistemelor de inteligență artificială. Capacitatea de a reglementa și de a monitoriza evoluția acestor algoritori devine un punct critic pentru stabilitatea și siguranța societatăților moderne.