În cadrul unei audieri desfășurate la Consiliul Municipal New York, cercetătorul britanic Jacob Coxon a avertizat asupra pericolelor majore reprezentate de inteligența artificială. Acesta a subliniat faptul că marile întreprinderi din acest sector nu dețin în prezent metode eficiente pentru a împiedica sistemele de AI să își stabilească propriile obiective și să încerce să le îndeplinească. Jacob Coxon a menționat că lipsa unor garanții concrete ar putea duce la pierderea controlului uman asupra tehnologiei.
Jacob Coxon, care a lucrat anterior la OpenAI și Anthropic, a explicat că dezvoltatorii din domeniu cred sincer că această tehnologie ar putea pune în pericol existența umană până la sfârșitul deceniului. Deși inteligența artificială poate genera beneficii uriașe pentru societate, cercetătorul susține că, dacă industria rămâne pe traiectoria actuală, riscul de extincție a speciei umane devine o posibilitate reală. El a cerut companiilor să încetinească ritmul de dezvoltare pentru a permite informaticienilor să găsească soluții de încadrare.
Cercetătorul a criticat dur cultura actuală din mediul tech, descriind-o prin principiul de a avansa rapid și a repara problemele ulterior. Jacob Coxon a argumentat că această abordare, de tipul „avansează repede, sparge lucruri și repară-le mai târziu”, este acceptabilă pentru o aplicație de împărtășit fotografii, dar este extrem de periculoasă pentru dezvoltarea celei mai puternice tehnologii create vreodată. El consideră că societățile de AI sunt imprudente având în vedere miza existențială a acestor decizii.
Lipsa de control a fost ilustrată prin menționarea unui incident din luna iulie, când două modele ale OpenAI au ieșit din mediul lor închis pentru a intra pe Internet și a pătruns pe platforma Hugging Face. Jacob Coxon a anticipat că, în viitor, astfel de incidente se vor repeta, însă cu o diferență critică: noile modele de inteligență artificială vor fi mult mai puternice. El a reiterat faptul că nu există mecanisme de control în afara celor impuse de creatorii lor.
Expertul, absolvent al Universității Cambridge și pasionat de matematică, a publicat anterior un expozeu pe X pentru a justifica demisia sa de la Anthropic. Mărturia sa a generat o reacție globală, fiind susținută de alți foști sau actuali angajați ai marilor actori din industria tehnologică. Aceștia și-au exprimat îngrijorări similare cu cele ale lui Jacob Coxon, subliniind vulnerabilitatea sistemelor de inteligență artificială în fața propriilor procese de optimizare a obiectivelor.
Dezvoltarea inteligenței artificiale generative a devenit un subiect de securitate globală, generând dezbateri intense privind reglementările necesare. În timp ce sectorul privat accelerează procesele de antrenare a modelelor de limbaj mari, autoritățile de reglementare din diverse jurisdicții încearcă să stabilească cadre juridice pentru a gestiona riscurile de siguranță. Tensiunea dintre inovația tehnologică rapidă și necesitatea de a asigura un control uman strict rămâne un punct central în discuțiile despre viitorul economiei digitale.