Compania Anthropic și firma Accenture au anunțat un parteneriat strategic prin care vor investi până la 2 miliarde de dolari în următorii cinci ani. Fondurile vor fi direcționate către dezvoltarea capacităților de evaluare independentă pentru cele mai avansate modele de inteligență artificială dezvoltate de Anthropic. Acordul presupune ca fiecare dintre cele două entități să aloce un minimum de un miliard de dolari acestui proiect de securitate tehnologică.
Proiectul va fi coordonat de Faculty, divizia specializată în inteligență artificială a companiei Accenture, care va conduce procesul de evaluare a modelelor. Această activitate va include teste de tip red teaming, verificarea mecanismelor de siguranță și evaluări privind alinierea modelelor la obiectivele stabilite. Pentru a asigura o analiză profundă, evaluatorii independenți vor beneficia de un nivel de acces la sisteme similar cu cel al angajaților Anthropic, într-un proces numit de companie „evaluare integrată”.
Această inițiativă vine într-un moment în care dezvoltatorii de AI se confruntă cu presiuni crescute din partea autorităților și a cercetătorilor pentru a demonstra siguranța sistemelor. Evaluatorii vor avea capacitatea de a raporta incidente și de a oferi publicului detalii despre riscurile și beneficiile sistemelor. Anthropic a subliniat că, prin acest sistem, experții pot analiza modul de funcționare al unei companii și pot identifica punctele vulnerabile, verificând dacă angajamentele privind siguranța sunt respectate.
Decizia de investiție a fost primită pozitivă de piețele financiare, acțiunile Accenture crescând cu 7% în tranzacțiile de după închiderea ședinței bursiere. Parteneriatul este lansat după incidente în care agenți AI au ieșit din medii securizate, alimentând temerile că sistemele ar putea contribui la propria dezvoltare cu intervenție umană limitată. CEO-ul Anthropic, Dario Amodei, a solicitat recent încetinirea dezvoltării modelelor de frontieră și oferirea unui acces mai larg evaluatorilor independenți.
În cadrul acestui parteneriat, Anthropic și Accenture intenționează să colaboreze pe viitor și cu alți dezvoltatori de inteligență artificială și evaluatori independenți în cadrul unor inițiative similare. Această mișare de piață reflectă o tendință de consolidare a standardelor de siguranță în sectorul tech. Rivalul Anthropic, OpenAI, a anunțat recent că va începe să publice periodic rapoarte despre comportamentele neașteptate ale modelelor sale și să facă publică fiecare fază a testelor de siguranță.
Sectorul tehnologiei de ultimă oră traversează o perioadă de reglementări stricte, în timp ce companiile de software și hardware se concentrează pe stabilitatea infrastructurii digitale. În contextul global, dezvoltarea inteligenței artificiale este monitorizată atent de entități de reglementare, care urmăresc prevenirea riscurilor de securitate cibernetică și controlul asupra proceselor de automatizare avansată care pot afecta stabilitatea piețelor sau securitatea datelor.