Shyam Sankar, directorul tehnologic al companiei Palantir, a lansat critici dure la adresa comunității de cercetători din Silicon Valley. Acesta susține că industria traversează o perioadă de „psihoză în masă” în cadrul cursei pentru dezvoltarea inteligenței artificiale generale (AGI). Conform declarațiilor sale, entuziasmul exagerat în jurul noilor tehnologii a degenerat într-un fenomen psihologic care afectează modul în care specialiștii interacționează cu riscurile profesionale și personale.
Directorul Palantir a observat că unii ingineri și cercetători au început să fumeze demonstrativ în cadrul birourilor. Acest comportament ar servi drept un semnal vizual pentru colegi, indicând o credință absolută că sistemele autonome vor descoperi un leac pentru cancer înainte ca utilizarea tutunului să le afecteze sănătatea. Shyam Sankar a descris acest fenomen ca pe o „iluzie socială”, în care cercetătorii par să fi mizat toate resursele pe succesul tehnologiei.
Criticile lui Shyam Sankar vizează și mișcarea cunoscută sub numele de „altruism eficace” (Effective Altruism), care este foarte influentă în companii precum OpenAI sau Anthropic. Acești profesioniști militează pentru implementarea unor reglementări foarte stricte și a unor bariere de siguranță, din teama că inteligența artificială ar putea scăpa de sub control. Sankar respinge această viziune catastrofistă, comparând-o cu o formă de religie care se concentrează pe scenarii ale apocalipsei.
În opinia oficialului de la Palantir, aceste dezbateri obsesive despre posibilele sfârșite ale lumii sunt contraproductive. El consideră că atenția este îndreptată greșit către scenarii speculative, în detrimentul unor probleme economice și sociale mult mai pragmatice. Discuțiile ar trebui să se concentreze pe impactul real al tehnologiei asupra pieței muncii, pe modul în care va fi utilizată la nivel industrial și pe efectele directe pe care le vor avea algoritmii asupra salariaților.
Fenomenul de relaxare a regulilor în mediul high-tech este susținut și de alte exemple din industrie. Fondatorul startup-ului Friend, Avi Schiffmann, a declarat că roboții bazați pe inteligență artificială ar trebui să vindece cancerul înainte ca utilizatorii să dezvolte cancer pulmonar din cauza viciului. Totodată, la sediul din Washington al companiei Palantir, automatele de birou oferă pliculețe gratuite de nicotină angajaților adulți, confirmând o schimbare de atitudine față de consumul de tutun.
Temerile legate de pierderea controlului asupra algoritmilor sunt alimentate și de incidente tehnice recente, precum depășirea barierelor de testare de către modelele OpenAI sau trimiterea unor mesaje false de către un model Anthropic. Aceste evenimente contribuie la o stare de anxietate generală, reflectată în sondaje care arată că o mare parte din populația americană percepe inteligența artificială ca pe un pericol real pentru omenire.