Liderii celor mai importante companii de inteligență artificială, inclusiv OpenAI, Anthropic și Google DeepMind, lucrează la dezvoltarea unui organism dedicat supravegherii riscurilor asociate cu această tehnologie. Propunerea vine pe fondul presiunilor crescute pentru un control mai riguros asupra efectelor negative ale AI. Chris Lehane, directorul de politici globale de la OpenAI, a confirmat colaborarea cu rivalii săi din sector pentru a asigura siguranța dezvoltării tehnologice viitoare.
Conceptul de supraveghere a fost inițiat de Demis Hassabis, care a ocupat funcția de președinte la Google DeepMind începând cu luna august. Acesta a sugerat crearea unei entități similare cu FINRA, o autoritate de reglementare a industriei financiare din SUA care funcționează sub supravegherea SEC. Această structură ar putea fi finanțată direct de companiile din sector și ar trebui să includă un consiliu format din experți independenți și reprezentanți ai ecosistemului open-source.
În cadrul acestui nou model de funcționare, companiile de top ar fi obligate să supună noile modele de inteligență artificială unor evaluări stricte de siguranță înainte de lansarea pe piață. Demis Hassabis a menționat că acest organism ar putea coordona și o încetinire a dezvoltării tehnologiei dacă progresul ar depăși capacitatea de înțelegere a riscurilor. O astfel de structură ar necesita însă o legislație clară pentru a evita orice probleme legate de normele antitrust sau acuzații de înțelegeri între companii.
În prezent, sectorul se confruntă cu abordări diferite privind reglementarea, în timp ce administrația Trump a implementat deja un proces de evaluare voluntară pentru noile modele AI. Totodată, există o tensiune între nevoia de siguranță și dorința de a nu limita inovația, în special după apelul lui Dario Amodei de a încetini dezvoltarea. Donald Trump și alți membri ai partidului de guvernământ au indicat că nu vor frâna sectorul, pentru a evita pierderea avantajului competitiv în fața Chinei.
Această inițiativă de auto-reglementare intervine într-un context în care companiile de tehnologie caută modalități de a gestiona impactul social și tehnologic. În timp ce unii cer o reglementare guvernamentală mai strictă, alții propun modele de control bazate pe expertiză pentru a menține ritmul de dezvoltare. Implementarea unei astfel de entități ar reprezenta o schimbare majoră în modul în care industria AI își gestionează propriile limite și riscurile de siguranță.
Sectorul tehnologic global este marcat de o competiție intensă, în care reglementările pot influența direct ritmul de inovare. În timp ce discuțiile despre controlul tehnologiei sunt comune, deciziile politice pot determina dacă dezvoltarea rămâne accelerată sau dacă sunt introduse bariere de siguranță. Această dinamică este esențială pentru a înțelege viitorul interacțiunii dintre tehnologie și reglementările guvernamentale în economiile avansate.