Bill Gates a emis un avertisment sever cu privire la evoluția inteligenței artificiale, afirmând că tehnologia a atins un prag critic de pericol. Potrivit miliardarului, inteligența artificială este acum suficient de puternică pentru ca actori statali sau grupări cu intenții ostile să provoace pierderi de vieți la o scară fără precedent. Gates subliniază că riscul imediat al utilizării AI în scopuri criminale depășește pericolul ca sistemele să scape, în viitor, de sub controlul uman.
Unul dintre cele mai grave riscuri identificate de Bill Gates este utilizarea inteligenței artificiale în dezvoltarea armelor biologice. El susține că tehnologia a trecut deja pragul care ar permite unui terorist să ucidă sute de milioane de oameni prin proiectarea de noi molecule. Progresele tehnologice pot ajuta cercetătorii să creeze agenți patogeni care ar putea deveni mai periculoși decât variola, transformând AI într-o amenințare biologică majoră.
Accesibilitatea acestor tehnologii reprezintă o schimbare de paradigmă, deoarece barierele tehnologice pentru actori statali și grupuri mici au fost reduse semnificativ. Gates compară impactul actual al inteligenței artificiale cu cel al arsenalului nuclear, afirmând că AI face armele nucleare să pară niște jucării. Această capacitate de distrugere, odată limitată la state cu resurse masive, devine acum utilizabilă de entități mult mai mici.
Problema este agravată de lipsa expertizei tehnice în domeniul AI la nivel guvernamental, deoarece această tehnologie a apărut în principal în sectorul privat. Gates consideră că guvernele nu au acum aceeași pregătire pe care au acumulat-o în cazul gestionării armelor nucleare. Din acest motiv, el susține că simpla reglementare a industriei nu este suficientă pentru a gestiona riscurile emergente pe care le aduce această revoluție tehnologică.
Miliardarul propune implementarea unor sisteme de monitorizare și măsuri de siguranță stricte, inclusiv păstrarea unor înregistrări care să permită autorităților să verifice modul de utilizare a modelelor. Gates avertizează că un mecanism de shutdown în caz de urgență nu ar rezolva complet problema, deoarece este esențial să existe informații despre comportamentele periculoase. El subliniază că nu se poate conta exclusiv pe autocontrolul industriei pentru a preveni tragedii.
În contextul actual, marile laboratoare de AI, precum OpenAI și Anthropic, au început deja să discute despre riscurile pierderii controlului asupra sistemelor dezvoltate. Unele companii au oprit sau au încetinit temporar antrenarea unor modele din cauza problemelor de siguranță identificate. Această evoluție reflectă îngrijorările globale privind viteza de dezvoltare a capabilităților AI față de viteza de implementare a măsurilor de monitorizare și siguranță.