Compania OpenAI, dezvoltatorul platformei ChatGPT, a decis îndepărtarea a trei cercetători specializați în domeniul siguranței inteligenței artificiale. Aceștia au fost acuzați că au transmis informații sensibile ale companiei, încălcând procedurile interne de gestionare a datelor. Incidentul survine într-un moment de intensă dezbatere în Silicon Valley, în care mai mulți angajați ai organizației au avertizat în public asupra riscurilor majore pe care le poartă dezvoltarea accelerată a acestor tehnologii.
Un purtător de cuvânt al OpenAI a confirmat decizia, explicând că cele trei persoane au fost despărțite pentru încălcarea regulilor privind accesul și gestionarea informațiilor sensibile. Ancheta internă a arătat că acești angajați au gestionat datele în afara procedurilor stabilite, acțiune care a încălcat încrederea necesară activității companiei. Printre încălcările menționate se numără și comunicarea unor informații către un grup extern de evaluare a inteligenței artificiale, însă numele acestui grup nu a fost precizat.
Cercetătorii vizați de această măsură sunt Tomek Korbak, Jasmine Wang și Mikita Balesni, toți trei utilizând rețelele sociale pentru a susține apelurile la încetinirea dezvoltării AI. Mikita Balesni a postat recent că există o probabilitate de peste 10% ca inteligența artificială să ucidă toți oamenii, reluând un mesaj de la Anthropic. Tomek Korbak a exprimat nemulțumire față de activitatea OpenAI, invocând dreptul la libertatea de exprimare, în timp ce Jasmine Wang a cerut acțiuni concrete pentru a preveni pericolele.
Această serie de demisii urmează demisia mediatizată a cercetătorului Jacob Coxon, care a trecut de la OpenAI la Anthropic la începutul lunii septembrie. Coxon a acuzat cele două companii că se joacă cu viețile oamenilor, un sentiment susținut pe platforma X de cei trei cercetători îndepărtați. În acest context, Anthropic și OpenAI sunt acuzate periodic că exagerează pericolele tehnologiei pe care o dezvoltă, în scopul de a restricționa piața și de a obține o dominație mai mare.
Industria este profund divizată în ceea ce privește ritmul de dezvoltare, lideri precum Dario Amodei de la Anthropic avertizând că agenții AI ar putea prelua controlul internetului în următoarele 6 până la 12 luni. În contrast, Sam Altman de la OpenAI susține că compania investește masiv în siguranță și supraveghere, încercând să echilibreze nevoia de progres cu gestionarea riscurilor. OpenAI a luat recent decizia de a găzdui permanent evaluatori independenți pentru a asigura un control suplimentar asupra modelelor sale.
În prezent, în Statele Unite nu există nicio lege federală care să reglementeze direct modelele de inteligență artificială. Singura formă de control este de natură voluntară, prin care capacitățile acestor sisteme pot fi supuse unei evaluări guvernamentale înainte de lansarea publică. Recent, s-a încercat implementarea unui cod de conduită voluntar pentru prevenirea riscurilor asociate, însă reglementările obligatorii rămân un subiect de dezbatere în competiția tehnologică cu China.