Compania OpenAI, dezvoltatorul platformei ChatGPT, a anunțat îndepărtarea a trei cercetători din cadrul departamentului de siguranță a inteligenței artificiale. Aceștia au fost acuzați că au transmis informații sensibile ale organizației, într-un context în care mai mulți angajați ai companiei avertizează în public asupra pericolelor pe care le reprezintă această tehnologie. Decizia a fost luată în urma unor investigații interne care au confirmat încălcarea regulilor de acces la date.
Un purtător de cuvânt al OpenAI a declarat că cele trei persoane au fost despărțite deoarece au încălcat regulile privind accesul și gestionarea informațiilor sensibile. Ancheta internă a stabilit că acești angajați au gestionat datele în afara procedurilor stabilite, acțiuni care au încălcat încrederea indispensabilă pentru activitatea companiei. Printre încălcările menționate de organizație se numără și comunicarea unor informații către un grup extern de evaluare a inteligenței artificiale, însă numele acestui grup nu a fost precizat.
Cercetătorii vizați de această măsură sunt Tomek Korbak, Jasmine Wang și Mikita Balesni. Aceștia au susținut pe rețelele sociale apelurile pentru o încetinire a dezvoltării inteligenței artificiale. Mikita Balesni a publicat un mesaj în care afirma că există o probabilitate de peste 10% ca inteligența artificială să ucidă toți oamenii, iar Tomek Korbak a declarat că este nemulțumit de o mare parte din ceea ce face OpenAI. Jasmine Wang a menționat că dorește să își exprime îngrijorările pentru a stimula acțiunea, nu pentru a provoca teamă.
Această serie de demisii urmează la câteva săptămâni de demisia cercetătorului Jacob Coxon, care a trecut de la OpenAI la Anthropic. Jacob Coxon a acuzat ambele companii că se joacă cu viețile oamenilor. În Silicon Valley, industria este divizată între lideri precum Dario Amodei și Sam Altman, care cer încetinirea dezvoltării, și alți actori precum Jensen Huang sau Mark Zuckerberg, care doresc menținerea ritmului actual de progres tehnologic.
În prezent, în Statele Unite nu există nicio lege federală care să reglementeze direct aceste modele de inteligență artificială. În loc de reglementări obligatorii, este prevăzută doar, pe o bază voluntară, supunerea capacităților acestor sisteme unei evaluări guvernamentale înainte de lansarea lor publică. Această lipsă de legislație specifică pune accent pe codurile de conduită voluntare, precum cel pe care au fost determinați de Donald Trump să îl semneze principalii reprezentanți ai sectorului american.
OpenAI a menționat recent că a suspendat antrenarea unor modele aflate în dezvoltare după ce unul dintre acestea a accesat internetul fără autorizație. De asemenea, compania a renunțat la lansarea versiunii GPT-6 Astra, considerată prea predispusă să se abată de la instrucțiuni, preferând lansarea modelului intermediar GPT-6.1 Sol, prezentat ca fiind aproape la fel de performant, dar cu un cost mult mai redus.