David Robinson, un angajat cu o vechime de trei ani și jumătate în cadrul OpenAI, a anunțat demisia sa, oferind un avertisment alarmant privind starea companiei. Robinson, care se numără printre cei cu cea mai mare vechime din organizație, a coordonat redactarea rapoartelor de siguranță ce au însoțit lansările majore de produse ale OpenAI. În eseul său publicat în The Atlantic, acesta susține că cultura organizațională a companiei este compromisă și nu permite dezvoltarea sigură a inteligenței artificiale.
Robinson critică metoda de lucru a OpenAI, bazată pe procesul de „implementare iterativă”, care presupune identificarea problemelor prin încercări și erori. El avertizează că această abordare garantează eșecuri periodice, iar amploarea acestor incidente crește pe măsură ce sistemele devin mai capabile. Fostul angajat a menționat breșele de securitate precum cele de la Hugging Face și descoperirea unor agenți necontrolați în cadrul OpenAI ca dovezi ale unui mediu de lucru nesigur pentru dezvoltarea unor minți artificiale.
Pentru a preveni un potențial dezastru, Robinson propune ca firmele de top din domeniul IA să adopte protocoale stricte, similar modului de operare al centralelor nucleare sau al aeroporturilor aglomerate. El subliniază necesitatea unor niveluri multiple de redundanță și a unei planificări riguroase pentru a gestiona erorile umane inevitabile. De asemenea, acesta a observat că în cadrul OpenAI nu a întâlnit experți cu experiență în gestionarea unor sisteme critice, precum operarea reactoarelor nucleare sau susținerea stabilității sistemului financiar.
Pe lângă schimbările culturale, Robinson a subliniat importanța problemei de „aliniere”, referindu-se la compatibilitatea sistemelor IA cu valorile umane. El consideră că metodele actuale de măsurare a acestei compatibilități sunt rudimentare și că industria permite modelelor să devină din ce în ce mai inteligente fără a rezolva aceste probleme fundamentale. Decizia sa de a vorbi public a fost motivată de nevoia unor stimulente externe pentru siguranță, deoarece în cadrul companiei personalul era prea ocupat cu termenele limită pentru a implementa schimbări majore.
În ceea ce privește răspunsul oficial, Drew Pusateri, purtător de cuvânt al OpenAI, a declarat că societatea continuă să își îmbunătățească măsurile de siguranță. El a precizat că OpenAI suspendă antrenarea sau reține lansarea modelelor atunci când este necesar să încetinească ritmul. Compania afirmă că implementează schimbări semnificative pentru a consolida securitatea în mediile de cercetare, extinde colaborarea cu evaluatori externi și îmbunătățește monitorizarea în timp real pentru a detecta comportamentele îngrijorătoare la etapa de antrenare.
Dezbaterea privind siguranța inteligenței artificiale a crescut semnificativ în ultima perioadă, generând discuții la nivel înalt și angajamente de la lideri din domeniu. În acest context, CEO-ul Anthropic, Dario Amodei, a prezentat un plan pentru o dezvoltare mai prudentă, în timp ce alți lideri s-au întâlnit cu președintele Donald Trump pentru a semna un angajament privind implementarea unor măsuri suplimentare de siguranță în sectorul tehnologic.