Geoffrey Hinton, unul dintre pionierii inteligenței artificiale, a avertizat că omenirea ar fi putut avea mai multe avantaje dacă această tehnologie nu ar fi fost dezvoltată niciodată. Informaticianul, laureat al Premiului Nobel, a subliniat că riscurile asociate acestor sisteme sunt imense. El a menționat că, în acest an sau în următorul, ar putea apărea un incident de amploare, comparabil cu un dezastru major, care să forțeze autoritățile să ia măsuri serioase de control.
Cercetătorul a oferit exemple concrete pentru ceea ce numește un „Cernobîl” al tehnologiei, fără a se referi la un accident nuclear propriu-zis. Acesta a vorbit despre posibilitatea unor atacuri cibernetice facilitate de inteligența artificială asupra sistemelor de producție a energiei electrice, care ar putea genera pană de curent masive. Un alt scenariu critic este blocarea totală a sistemului financiar pentru o perioadă de o săptămână, un eveniment care ar destabiliza economiile globale.
Hinton a criticat dur liderii marilor companii de tehnologie, precum Sam Altman de la OpenAI, Zuckerberg sau Musk, acuzându-i că prioritizează câștigul financiar în detrimentul siguranței. El a declarat că acești lideri înțeleg riscurile, dar nu sunt interesați să le gestioneze corect. Conform informaticianului, competiția pentru supremație și cote de piață, în special în contextul rivalității cu China, împiedică o abordare responsabilă a dezvoltării modelelor de inteligență artificială tot mai puternice.
În ceea ce privește soluțiile de reglementare, Hinton susține un plan strict de testare obligatorie a modelelor avansate, evaluare independentă și stabilirea unor standarde comune la nivel interguvernamental. Acest plan este sprijinit de președintele Finlandei și de alte 32 de țări, inclusiv Germania, Canada, Australia și Singapore. Această abordare se opune poziției lui Donald Trump, care preferă autoreglarea companiilor pentru a nu dezavantaja Statele Unite în competiția tehnologică globală.
Dezvoltarea inteligenței artificiale a accelerat dramatic în ultimii ani, trecând de la concepte matematice de rețele neuronale la sisteme capabile să genereze conținut complex și să interacționeze cu utilizatorii. Această evoluție rapidă a pus presiune pe cadrul legislativ global, care încearcă să echilibreze stimularea inovației economice cu protecția infrastructurilor critice și a stabilității piețelor financiare împotriva erorilor sau atacurilor automate.
Geoffrey Hinton, care a lucrat aproximativ 44 de ani în acest domeniu, a decis să părăsească Google în anul 2023 pentru a putea discuta liber despre pericolele tehnologiei. El a formulat conceptul de rețea neuronală încă din anii 1970, un sistem capabil să învețe prin experiență, similar cu modul de funcționare al oamenilor. Acum, el își folosește reputația pentru a avertiza asupra posibilității unei societăți destrămate, marcată de șomaj masiv și prăpăstii sociale.