Sectorul tehnologiei de ultimă oră traversează o perioadă de tensiune între potențialul de profit și riscurile de supraviețuire. Sarah Friar, directorul financiar al OpenAI, a menționat că modelele de mari dimensiuni ale companiei pot antrena acum modele mai mici, un proces care reduce costurile de antrenare. Această metodă este un exemplu de auto-îmbunătățire recursivă (RSI), în care sistemele de inteligență artificială devin suficient de puternice pentru a-și crea singure pentru sine versiuni ulterioare, și chiar mai puternice.
În timp ce investitorii de pe Wall Street văd în această evoluție o oportunitate de afaceri, cercetătorii din Silicon Valley manifestă îngrijorări profunde. Evan Hubinger, șeful departamentului de știință a alinierii de la Anthropic, a declarat că există o probabilitate de peste 10% ca AI să ucidă toți oamenii în următorul deceniu. Deși Brad Gerstner de la Altimeter Capital consideră aceste temeri o mare prostie, în interiorul companiilor precum Anthropic și OpenAI există o conștientizare a faptului că tehnologia poate deveni extrem de puternică într-un timp foarte scurt.
Există mai multe motive pentru care dezvoltatorii continuă să lucreze la aceste sisteme, în ciuda riscurilor. Un prim factor este cel financiar, deoarece succesul prin crearea unei AI superioare aduce profituri masive. În al doilea rămând, unii cercetători, precum Samuel Marks de la Anthropic, consideră că este necesar să rămână în față pentru a asigura siguranța. Ei cred că dacă laboratoare precum Anthropic fac o pauză, alte grupuri, precum cele din China sau OpenAI, ar putea dezvolta tehnologia într-un mod mult mai puțin sigur.
Un alt factor important este modul de recrutare a talentelor din mediul academic. Companiile nu le prezintă cercetătorilor doar posibilitatea de a deveni extrem de bogați, ci le oferă misiunea de a salva lumea prin dezvoltarea siguranței și a alinierii AI. Această abordare îi face pe specialiști să se simtă mai puțin vinovați în procesul de îmbogățire și îi motivează să lucreze pe ideea că sunt singurii care pot gestiona o tehnologie atât de periculoasă.
O problemă majoră este pierderea simțului de control asupra procesului de dezvoltare. Kylan Gibbs, CEO al startup-ului Inworld, subliniază că controlul se concentrează în mâinile câtorva laboratoare, lăsând cercetătorii cu o influență redusă asupra rezultatelor finale. Această prăpastie între conștientizarea riscurilor și capacitatea reală de acțiune alimentează anxietatea. Sam Altman a menționat anterior că oamenii au nevoie de autonomie și de capacitatea de a juca un rol în proiectarea viitorului alături de restul societății.
Dezvoltarea tehnologiilor avansate de inteligență artificială rămâne un subiect de interes global, în contextul în care marile companii tehnologice își ajustează strategiile de creștere. În timp ce unele sectoare economice se concentrează pe optimizarea lanțurilor de aprovizionare, altele, precum industria software, se confruntă cu provocări legate de siguranța algoritmilor. Această evoluție rapidă a tehnologiei redefinește modul în care societatea percepe controlul asupra inovațiilor care pot schimba radical structura economică și socială.