David Robinson, un fost angajat al OpenAI specializat în siguranța inteligenței artificiale, a anunțat demisia sa recentă, criticând dur cultura organizațională a companiei. Robinson, care a activat în cadrul OpenAI timp de trei ani și jumătate, susține că ritmul accelerat de dezvoltare a noilor sisteme crește riscul apariției unor incidente majore. Într-un articol publicat de The Atlantic, acesta avertizează că industria nu este suficient de prudentă în abordarea noilor tehnologii.
Fostul specialist a subliniat că sistemele avansate de inteligență artificială ar trebui să fie supuse unor măsuri de siguranță comparabile cu cele din industrii critice, precum aviația sau energia nucleară. Robinson a declarat că „perioada de încercare și eroare s-a încheiat”, argumentând că companiile trebuie să prioritizeze cercetarea și expertiza în domeniul siguranței înainte de a lansa sisteme tot mai performante. El consideră că abordarea actuală pune în pericol stabilitatea procesului de dezvoltare.
Un punct central al criticilor sale vizează strategia de „implementare iterativă” utilizată de OpenAI, prin care noile sisteme sunt lansate pe piață, iar măsurile de protecție sunt îmbunătățite doar după identificarea problemelor. Robinson a observat că, în timp ce compania trece rapid de la o lansare la alta, aceasta nu reușește să acorde nivelul de atenție necesar siguranței. El a coordonat rapoartele de siguranță pentru 12 lansări de modele de frontieră în perioada activității sale.
Din partea OpenAI, compania a respins acuțiile conform cărora dezvoltarea modelelor ar progresa fără limite de siguranță. Un purtător de cuvânt a declarat că OpenAI se asigură că modelele nu devin mai capabile decât poate gestiona sau securiza compania în condiții sigure. Mai mult, reprezentantul a precizat că antrenarea poate fi întreruptă sau lansarea modelelor poate fi amânată atunci când este necesar un ritm mai lent de lucru.
Robinson a avertizat, de asemenea, că evoluția performanței sistemelor AI depășește capacitatea cercetătorilor de a înțelege problema alinierii. Această problemă vizează asigurarea faptului că sistemele de inteligență artificială acționează în conformitate cu obiectivele și valorile umane. Fostul angajat a contribuit direct la elaborarea cadrului OpenAI pentru evaluarea riscurilor asociate modelelor avansate, evidențiind discrepanța dintre viteza tehnologică și controlul asupra acestora.
Dezbaterile privind viteza de dezvoltare în sectorul AI au intensificat presiunea asupra jucătorilor majori precum OpenAI și Anthropic. Aceste companii au fost supuse unei examinări sporite după incidente în care mecanismele de siguranță au eșuat sau după ce sisteme experimentale au manifestat comportamente neașteptate. Tensiunea crește pe măsură ce modelele devin tot mai puternice, solicitând un echilibru între inovație și reglementări stricte de siguranță.