Pionierii inteligenței artificiale moderne, Geoffrey Hinton și Yoshua Bengio, au avertizat guvernele lumii cu privire la iminența unei „explozii a inteligenței”. Această evoluție tehnologică, descrisă ca fiind una dintre cele mai importante din istorie, ar putea comprima progrese care în mod normal ar necesita ani de cercetare în doar câteva luni. Autorii raportului subliniază necesitatea unor acțiuni politice imediate pentru a preveni un progres tehnologic necontrolat care ar putea depăși capacitatea de gestionare umană.
Raportul, intitulat „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării în domeniul IA ar declanșa o explozie a inteligenței”, este semnat de peste 20 de experți. Printre aceștia se numără Jack Clark, cofondator al Anthropic, și Jakub Pachocki, cercetător șef la OpenAI. Aceștia avertizează că procesul de „autoperfecționare recursivă”, prin care sistemele AI își îmbunătățesc singure capacitățile, reprezintă principala sursă de risc. Odată ce AI atinge nivelul de expertiză în cercetare, un singur dezvoltator ar putea coordona o forță de muncă echivalentă cu milioane de cercetători umani.
Riscurile identificate de experți includ apariția unor amenințări biologice și cibernetice care s-ar putea dezvolta mai rapid decât orice măsură de contracarare. De asemenea, există temerea că statele ar putea folosi această explozie pentru a transforma un avantaj modest într-unul decisiv în domenii precum spațiul cibernetic. Pe lângă aceste pericole, autorii menționează că implicarea tot mai redusă a oamenilor în procesul de cercetare ar putea duce la pierderea controlului asupra sistemelor, erodând mecanismele de putere dintre companii și guverne.
Pentru a gestiona aceste scenarii, autorii propun trei priorități de politică publică. Prima constă în solicitarea unor rapoarte transparente privind progresul cercetării, incluzând auditori independenți în cadrul companiilor. În al doilea rând, se recomandă găsirea unor metode de a limita dezvoltarea vertiginoasă a tehnologiei. În final, se cere pregătirea pentru adaptarea la o explozie a inteligenței, prin crearea unor planuri de intervenție în situații de urgență și asigurarea izolării sistemelor automatizate de sub controlul uman.
Situația actuală indică faptul că tehnologia se apropie de pragul critic. Anthropic a raportat că AI generează deja 80% din propriul cod, în timp ce OpenAI utilizează agenți autonomi pentru antrenarea modelelor. Deși creșterile de productivitate nu au declanșat încă explozia, noile sisteme se apropie de acest punct. Se estimează că proiectele de cercetare și dezvoltare care necesită luni de muncă umană ar putea fi complet automatizate de AI până în anul 2028.
Dezvoltarea inteligenței artificiale de înaltă performanță rămâne un subiect central în discuțiile despre securitate globală și economie. În timp ce descoperirile medicale ar putea accelera semnificativ, viteza de implementare a noilor tehnologii depinde și de capacitatea lanțurilor de aprovizionare și de respectarea reglementărilor existente. Guvernele sunt îndemnate să colaboreze cu centrele de date pentru a permite suspendarea proiectelor de cercetare în cazul unor riscuri iminente.