Gigantul american Google a anunțat extinderea portofoliului de procesoare TPU de generația a opta prin introducerea a două noi sisteme, TPU 8i Max și TPU 8tx. Aceste componente sunt specializate pe procesarea inteligenței artificiale securizate și pe gestionarea unor volume mari de informații contextuale. Cele două noi configurații sunt destinate etapelor distincte din cadrul ciclului de dezvoltare și utilizare a tehnologiei AI, oferind soluții adaptate nevoilor specifice ale clienților din ecosistemul Google Cloud.
Noul sistem TPU 8tx este optimizat pentru companiile din industrii reglementate și pentru instituțiile guvernamentale care gestionează date extrem de sensibile. Bazat pe arhitectura TPU 8t și integrat cu procesoare AMD personalizate, acest model încorporează mecanisme de securitate direct la nivel hardware. Această abordare permite protejarea și izolarea datelor sensibile și a ponderilor modelelor AI chiar și în timpul procesării active, evitând necesitatea decriptării acestora în memorie.
Pentru a îmbunătăți performanța agenților AI, TPU 8tx utilizează rețeaua Boardfly cu latență redusă, oferind o latență de două ori mai mică față de TPU 8t. Această configurație permite organizațiilor să ruleze și să personalizeze modelele simultan pe un singur sistem, folosind date confidențiale. Echipele pot ajusta modelele, pot utiliza tehnici de distilare pentru a crea versiuni mai eficiente sau pot antrena agenți AI prin învățare prin recompensă fără transferul datelor între clustere.
Pe de altă parte, TPU 8i Max este proiectat pentru a depăși limitările de memorie, oferind o putere de procesare de două ori mai mare față de TPU 8i. Acest model dispune de o capacitate SRAM dublă și o lățime de bandă a memoriei HBM de două ori mai mare, asigurând accesul constant la date esențiale. De asemenea, prin integrarea de două ori mai multor cipuri în același spațiu de rack, centrele de date obțin o densitate de calcul sporită.
Linia de business dedicată TPU a cunoscut o creștere accelerată, servind în prezent aproape 100 de clienți, inclusiv universități, companii de tranzacționare financiară și laboratoare de cercetare. Generația a opta, care include și modelele TPU 8t și TPU 8i, oferă o performanță de antrenare de până la 2,7 ori mai mare. Compania urmărește să facă tehnologia mai accesibilă prin combinarea cipurilor personalizate cu un ecosistem software deschis.
Evoluția acestor acceleratoare hardware reflectă tranziția de la servirea utilizatorilor umani către gestionarea activităților complexe desfășurate de agenți AI autonomi. Pe măsură ce modelele de inteligență artificială necesită ferestre de context tot mai extinse, de ordinul a milioane de tokenuri, infrastructura de calcul trebuie să evolueze pentru a susține aceste cerințe de procesare masivă și de securitate cibernetică.