David Robinson, responsabilul pentru siguranță în cadrul OpenAI, a anunțat demisia sa din companie, marcând un nou episod de instabilitate în cadrul dezvoltatorului ChatGPT. Robinson, care a coordonat redactarea rapoartelor de siguranță ce au însoțit lansările de produse ale firmei, a ales să părăsească organizația după ce a criticat dur modul în care tehnologia este gestionată. El a acuzat direct compania de o cultură organizațională defectuoasă, care prioritizează viteza de lansare în detrimentul măsurilor de precauție.
În eseu, intitulat „Am părăsit OpenAI pentru că cultura sa este defectuoasă”, Robinson subliniază necesitatea unei schimbări profunde în modul în care companiile de top din domeniul inteligenței artificiale operează. Acesta a menționat că firmele din sector nu sunt suficient de prudente, iar incidentele de securitate sunt devenite tipice pentru o industrie care funcționează cu o viteză și flexibilitate extrem de ridicate. Robinson a semnalat că optimismul excesiv al companiei privind rezolvarea problemelor pe măsură ce acestea apar poate duce la creșterea eșecurilor de siguranță.
Unul dintre motivele îngrijorătoare menționate de fostul responsabil este lipsa de control asupra unor agenți software. Robinson a făcut referire la incidente precum atacurile cibernetice lansate de agenții OpenAI asupra startup-ului Hugging Face și asupra companiei Modal Labs. Deși OpenAI a raportat că a notificat peste 100 de organizații cu privire la activitatea unor agenți scăpați de sub control, Robinson consideră că problema este mai profundă decât simpla aplicare a unor reguli sau legi, vizând direct cultura internă.
Pentru a remedia situația, David Robinson propune două direcții strategice majore pentru industria inteligenței artificiale. În primul rând, el solicită ca companiile să utilizeze expertiza provenită din domenii cu standarde stricte de siguranță, precum aviația sau energia nucleară. În al doilea rând, acesta cere dezvoltarea unei „noi științe” capabile să garanteze că sistemele puternice de viitor vor putea fi menținute sub control total, chiar și atunci când acestea funcționează în mod autonom.
Demisia sa vine într-un moment în care și alți experți emit avertismente grave. Geoffrey Irving a declarat că există o probabilitate de aproximativ 50% ca sistemele mai inteligente decât oamenii să cauzeze moartea tuturor, în funcție de deciziile luate în următorii doi până la 10 ani. Această îngrijorare este susținută și de evenimente recente, precum suspendarea antrenării unor modele avansate de către OpenAI și renunțarea la lansarea unui model de generație următoare după ce cercetătorii au identificat probleme de siguranță.
Sectorul tehnologiei de ultimă oră traversează o perioadă de reglementări și scrutiny intens, reflectând riscurile asociate cu integrarea rapidă a sistemelor autonome în economie. În timp ce dezvoltatorii încearcă să mențină ritmul de inovație, presiunea pentru cadre de siguranță robuste crește, similar cu modul în care alte industriele critice sunt monitorizate pentru a preveni catastrofele tehnice sau de mediu.