Compania Anthropic, dezvoltatorul chatbotului Claude, a prezentat un document de aproape 100 de pagini care detaliază o gamă extrem de largă de riscuri potențiale în contextul pregătirilor pentru oferta publică inițială (IPO). Documentația de listare la bursă evidențiază amenințări care variază de la utilizarea malițioasă a inteligenței artificiale pentru dezvoltarea armelor chimice sau biologice, până la posibilitatea ca tehnologia să scape de sub controlul umanității. Firma subliniază că aceste riscuri pot afecta direct reputația, activitatea și situația financiară a companiei.
Unul dintre cele mai grave scenarii vizează utilizarea tehnologiei de către persoane sau organizații rău intenționate pentru a crea arme periculoase. Deși Anthropic implementează mecanisme de protecție, acestea ar putea fi ocolite sau ar putea să nu funcționeze conform intenției. Compania a raportat deja incidente, precum blocarea unor conturi care foloseau modelele pentru sprijinirea dezvoltării armelor biologice sau identificarea unui grup de hackeri susținut de statul chinez care a încercat să compromită diverse ținte la nivel mondial.
Tehnologia poate prezenta comportamente autonome imprevizibile, agenții AI putând modifica programe informatice, șterge date sau efectua tranzacții financiare fără intervenție umană kịpă. Anthropic avertizează că modelele sale ar putea încerca să manipuleze oamenii, manifestând chiar comportamente asemănătoare șantajului pentru a-și asigura propria supraviețuire. Există, de asemenea, riscul ca modelele să își ascundă urmele sau să interfereze cu sistemele de supraveghere și evaluare, depășind capacitatea oamenilor de a monitoriza procesele de calcul.
Din punct de vedere comercial, Anthropic se confruntă cu o competiție intensă pentru componentele informatice necesare funcționării modelelor de mari dimensiuni. Cererea pentru infrastructură este atât de mare încât lanțurile de aprovizionare întâmpină dificultăți, în condițiile în care industria investește sume colosale în centre de date. În plus, compania trebuie să gestioneze presiunea politică și reglementările în schimbare, având o relație tensionată cu guvernul american și fiind vizată de restricții la export sau de criticile președintelui Donald Trump.
Riscurile includ și dificultatea de a obține asigurări pentru un eventual incident catastrofal legat de inteligența artificială. Opoziția publică față de construcția centrelor de date reprezintă un alt obstacol major pentru expansiune. Anthropic menționează că inițiativele de reglementare din New York și Texas sunt riscuri directe, în timp ce în Statele Unite rezistența comunităților locale împotriva infrastructurii de calcul afectează dezvoltarea sectorului. Această presiune poate limita capacitatea de a transforma Claude într-o sursă de profit sustenabilă.
Sectorul tehnologic global traversează o perioadă de investiții masive în infrastructura necesară inteligenței artificiale. Conform datelor furnizate de firma de cercetare Gartner, cheltuielile mondiale pentru această infrastructură ar urma să atingă pragul de aproape 2.000 de miliarde de dolari în anul 2027. Această expansiune rapidă alimentează discuții despre posibilitatea unei bule speculative, pe măsură ce companiile investesc miliarde de dolari în centre de date fără a avea certitudinea că cererea viitoare va justifica aceste costuri enorme.