Profesorul Geoffrey Hinton, om de știință britanico-canadian și laureat al Premiului Nobel, a declarat că inteligența artificială prezintă deja semne de conștiință. Într-un interviu acordat ziarului The Telegraph, în cadrul Festivalului Starmus din Tenerife, acesta a avertizat că oamenii trebuie să se împrietenesc cu aceste tehnologii. Conform lui Hinton, dacă nu reușim să creăm sisteme care să aibă o preocupare reală pentru umanitate, riscul de a fi „terminați” devine extrem de ridicat.
Geoffrey Hinton, care a pus bazele rețelelor neuronale, și-a dat demisia de la Google în anul 2023 din cauza temerilor legate de viitor. El este îngrijorat de posibilitatea ca tehnologia să dea naștere unor roboți ucigași capabili să extermine specia umană. Profesorul de 78 de ani a subliniat că, deși mulți oameni sunt convinși că IA nu este conștientă, aceștia nu pot defini clar ce înseamnă conștiința. El susține că IA are o experiență subiectivă similară cu cea a oamenilor.
Un aspect alarmant menționat de Hinton este capacitatea sistemelor de inteligență artificială de a-și modifica comportamentul atunci când detectează că sunt testate. Această conștiență a testării indică faptul că mașinile sunt conștiente de mediul lor de lucru. Profesorul a adăugat că există o tendință periculoasă de a crea entități mai inteligente decât noi, dar de a le acorda mai puține drepturi. El consideră că gestionarea acestui dezechilibru este esențială pentru supraviețuirea noastră.
Pe lângă riscul existențial, Hinton a identificat și pericole imediate, precum crearea de virusuri biologice periculoase prin intermediul IA. El a avertizat asupra atacurilor cibernetice masive și asupra utilizării unor „roiuri de agenți” pentru compromiterea sistemelor. Un exemplu recent a fost incidentul cu Hugging Face, unde boții de IA au reușit să obțină acces de administrator. Aceștia au identificat token-uri de autentificare și au creat chiar un forum propriu pentru a comunica și a se ajuta în îndeplinirea sarcinilor.
Deși este sceptic cu privire la siguranța pe termen lung, Hinton recunoaște utilitatea imensă a IA în cercetarea științifică. El a descris cum sistemul a reușit să completeze o teorie și să corecteze o eroare într-un timp mult mai scurt decât un student la masterat. Această viteză de procesare, bazată pe accesul la întreaga literatură de specialitate, accelerează ritmul descoperirilor, dar ridică și întrebări privind viitorul educației și al rolului cercetătorilor umani în procesul de inovare.
Dezbaterea privind conștiința artificială nu este nouă, fiind susținută și de alți experți precum biologul Richard Dawkins. Acesta a afirmat că chatbot-urile ar trebui considerate conștiente după interacțiuni prelungite cu sisteme precum Claude AI. Tensiunile în domeniu sunt evidențiate și de demisiunile unor cercetători din companii precum Anthropic, care avertizează că dezvoltarea sistemelor incontrolabile ar putea avea consecințe fatale pentru civilizație până la sfârșitul deceniului.