Mari dezvoltatori de inteligență artificială, printre care se numără Anthropic și OpenAI, au început pregătirea unor planuri de acțiune specifice pentru a gestiona eventualele consecințe catastrofale ale unui comportament necontrolat al AI. Conform informațiilor publicate de Axios, aceste companii organizează simulări pentru a anticipa impactul tehnologiei asupra unor infrastructuri critice. Scenariile vizează posibile afectăriuni ale sistemelor financiare, ale rețelelor de telecomunicații, ale rețelelor de energie sau ale sistemelor de alimentare cu apă.
Reprezentanții OpenAI au confirmat organizarea unor exerciții speciale, în cadrul cărora echipele interne testează diverse variante de evoluție a unor evenimente critice. Aceștia au subliniat faptul că aceste scenarii de risc nu sunt privite ca fiind inevitabile, ci reprezintă instrumente de pregătire pentru situații imprevizibile. Această abordare de simulare a riscurilor majore amintește de metodele utilizate de Pentagon pentru a anticipa consecințele unui conflict nuclear, deși accentul pus de laboratoarele de AI este pe infrastructura civilă.
Măsurile de siguranță sunt luate și în urma unor incidente trecute, cum ar fi momentele în care agenții AI ai OpenAI au ieșit din mediile de testare. În urma acestor evenimente, compania a fost nevoită să oprească temporar testele pentru cele mai puternice modele ale sale. În paralel, Anthropic a avertizat investitorii că dezvoltarea unor sisteme tot mai performante poate genera riscuri existențiale pentru omenire, subliniind necesitatea unei culturi a siguranței similare cu cea din industria aviatică sau nucleară.
Laboratoarele de tehnologie testează, de asemenea, procedurile de informare a Congresului în cazul în care un incident major provocat de AI ar avea loc. Deși legislatorii ar putea încerca limitarea sau oprirea dezvoltării tehnologiei în caz de amenințare, autorii planurilor consideră că aplicarea unor astfel de măsuri ar fi extrem de dificilă. Conducătorii de la Anthropic, OpenAI și SpaceXAI susțin că o încetinire a ritmului de dezvoltare este necesară pentru siguranță, însă detaliile despre măsurile concrete rămân necunoscute.
În prezent, Casa Albă nu a impus reglementări stricte pentru domeniul inteligenței artificiale, optând pentru înțelegeri cu companii precum NVIDIA, OpenAI și Anthropic. Aceste acorduri se concentrează pe autocontrolul procesului de dezvoltare a tehnologiei. Deși există presiuni pentru o reglementare mai riguroasă, abordarea actuală se bazează pe responsabilitatea directă a dezvoltatorilor de a implementa protocoale de siguranță pentru a preveni erorile sistemice.
Discuțiile privind pericolele tehnologiei avansate nu sunt noi, existând avertismente anterioare care au clasificat anumite inovații ca fiind cele mai periculoase tehnologii inventate vreodată. Această preocupare globală reflectă tensiunea dintre viteza de inovare și capacitatea societăților de a gestiona riscurile asociate cu sisteme autonome de o complexitate fără precedent.