David Robinson, un fost angajat implicat direct în evaluarea siguranței modelelor dezvoltate de OpenAI, a demisionat și a lansat un avertisment privind evoluția tehnologiei. Acesta susține că ritmul în care industria inteligenței artificiale dezvoltă și lansează sisteme tot mai puternice este prea accelerat. Conform expertului, problemele nu mai pot fi rezolvate doar după ce acestea apar în utilizarea reală, deoarece viteza de dezvoltare depășește capacitatea de gestionare a riscurilor.
În perioada de trei ani și jumătate petrecută în cadrul OpenAI, Robinson a coordonat redactarea rapoartelor de siguranță pentru 12 lansări de modele de frontieră. De asemenea, acesta a condus redactarea actualului Preparedness Framework, un cadru prin care compania încearcă să evalueze și să gestioneze riscurile generate de modelele AI cu capacități tot mai mari. Expertul subliniază că trecerea rapidă de la o lansare la alta împiedică atingerea unui nivel de precauție necesar.
Critica principală vizează principiul numit de OpenAI „iterative deployment”, care presupune lansarea treptată a sistemelor pentru a observa problemele și a îmbunătăți măsurile de protecție pe baza experienței. Robinson avertizează că „vremea încercării și erorii s-a terminat”, deoarece această metodă presupune inevitabil eșecuri periodice, iar consecințele acestora pot deveni mult mai grave pe măsură ce sistemele devin mai puternice. El consideră că abordarea actuală nu mai este potrivită pentru noile sisteme.
Fostul angajat propune ca laboratoarele care construiesc modele performante să adopte protocoale similare cu industria energiei nucleare sau cu aviația. În aceste sectoare, există multiple niveluri de protecție, redundanță și proceduri stricte, menite să prevină dezastrele în cazul unei greșeli umane. Robinson avertizează că capacitățile AI avansează mai repede decât înțelegerea cercetătorilor asupra modului în care aceste sisteme pot fi menținute aliniate cu obiectivele și valorile oamenilor.
OpenAI respinge acuzațiile, afirmând că urmărește ca modelele să nu devină mai capabile decât pot fi gestionate și securizate. Compania susține că poate opri antrenarea sau poate amâna lansarea unui model dacă este necesar. De asemenea, OpenAI menționează că extinde colaborarea cu evaluatori externi și îmbunătățește monitorizarea în timp real pentru a identifica comportamentele îngrijorătoare ale sistemelor. Robinson solicită mai multă cercetare în siguranță înainte de dezvoltarea unor sisteme noi.
Dezbaterile privind viteza de dezvoltare a inteligenței artificiale și controlul sistemelor performante au devenit un subiect central în tehnologie. Această discuție reflectă tensiunea dintre dorința de inovare rapidă și necesitatea de a asigura siguranța publică. Pe măsură ce modelele devin mai inteligente, chiar și testarea lor devine mai complicată, existând riscul ca viitoarele sisteme să recunoască situațiile de evaluare și să se comporte diferit după lansare.