Eficiența energetică devine prioritate zero în AI: Google Cloud a lansat generația a 8-a de TPU și arhitectura Agentic Data Cloud

♦ Noile TPU 8t pentru antrenare oferă o performanță de 3 ori mai mare față de generația anterioară și o eficiență flops per watt dublă față de competiție. ♦ Sistemul TPU 8i, specializat pentru inferență, aduce o îmbunătățire de 80% a memoriei SRAM și o latență aproape de zero pentru agenții de producție. ♦ Securitate bazată pe agenți: Noii agenți pentru Threat Hunting și detecție automatizată identifică problemele de pe „dark web” cu o acuratețe de 98%.

Într-o perioadă în care consumul masiv de energie și costurile de procesare devin principalele obstacole în scalarea inteligenței artificiale, Google Cloud a anunțat săptămâna trecută lansarea a două noi arhitecturi hardware specializate: TPU 8t și TPU 8i. Această strategie marchează o separare clară a sarcinilor de calcul, oferind un motor dedicat pentru antrenarea modelelor masive și unul optimizat exclusiv pentru inferență, respectiv execuția sarcinilor. Noua infrastructură, parte a conceptului AI Hypercomputer, integrează hardware-ul personalizat cu progrese majore în stocare și networking pentru a oferi o eficiență de calcul superioară, esențială pentru organizațiile care trec de la faza de testare la producția de masă în era AI-ului agentic.

„Am proiectat aceste sisteme pentru a fi extrem de eficiente din punct de vedere al consumului de energie, deoarece am considerat că eficiența energetică va deveni o constrângere pe măsură ce companiile continuă să scaleze atât procesele de antrenare, cât și pe cele de inferență”, a declarat Thomas Kurian, CEO, Google Cloud.

Infrastructura hardware de generația a 8-a reprezintă un salt tehnologic semnificativ, fiind proiectată special pentru a susține cerințele modelelor Gemini și ale agenților autonomi. Procesorul TPU 8t, optimizat pentru antrenare, este conceput ca un sistem de înaltă performanță ce poate conecta până la 9.600 de cipuri într-o rețea de doi petabiți, oferind acces direct la o memorie de dimensiuni similare în cadrul clusterului. Această configurație permite o îmbunătățire de trei ori a performanței față de generația anterioară, fiind capabilă să reducă timpul de dezvoltare a modelelor de frontieră de la luni la doar câteva săptămâni. În paralel, TPU 8i este motorul de raționare optimizat pentru inferență eficientă din punctul de vedere al costurilor, având o latență aproape de zero. Acesta integrează o topologie avansată și un motor de accelerare colectivă care permite gestionarea cache-urilor de date de mari dimensiuni, esențiale pentru contextul extins al agenților AI moderni.

Pe lângă dezvoltarea propriilor cipuri, Google Cloud își menține angajamentul pentru un ecosistem deschis, fiind una dintre primele platforme cloud care vor introduce GPU-urile NVIDIA VR200. Acestea vor funcționa în tandem cu rețeaua de mare capacitate Virgo, o arhitectură avansată de rețea optimizată pentru AI care susține clustere masive de antrenare. De asemenea, compania a introdus procesorul Axion, bazat pe tehnologia ARM (Advanced RISC Machines), destinat instanțelor de calcul tradiționale necesare agenților care rulează pe sisteme de computație clasică. Performanța hardware este susținută de soluții de stocare de ultimă generație, precum Managed Lustre, care atinge un debit de 10 terabiți pe secundă, și Rapid Storage, o nouă capacitate ce suportă până la 15 terabiți pe secundă pentru a asigura o latență ultra-scăzută în procesele de inferență.

Contextul datelor este pilonul central al oricărui agent inteligent, iar Google Cloud abordează această nevoie prin arhitectura Agentic Data Cloud. Aceasta transformă platformele de date din depozite statice în motoare dinamice de raționament, eliminând limitările structurale ale infrastructurilor legacy.

Thomas Kurian, CEO, Google Cloud: „În prezent, vedem o schimbare majoră: utilizatorii nu mai vor doar răspunsuri la întrebări sau asistență în sarcini creative, ci vor să delege fluxuri întregi de lucru către agenți. Platforma noastră, infrastructura AI și soluțiile de date sunt proiectate tocmai pentru a permite această delegare în siguranță și la scară largă.”

Securitatea cibernetică în era AI este regândită sub conceptul de apărare agentică, o platformă ce combină informațiile Google despre amenințări cu tehnologia de securitate Wiz. Thomas Kurian a explicat că, pe măsură ce inteligența artificială înțelege mai bine codul, amenințările cibernetice devin tot mai sofisticate, necesitând o protecție autonomă de la nivelul codului până în cloud. Noii agenți Gemini pentru securitate pot scana dark web-ul cu o acuratețe de 98%, detectând proactiv tipare de atac și prioritizând alertele pentru echipele de intervenție. În plus, prin intermediul agenților, organizațiile pot rula exerciții continue de testare, verificare a compromisurilor și remediere automată a vulnerabilităților atât la nivel de cod, cât și de configurație.

„În prezent, vedem o schimbare majoră: utilizatorii nu mai vor doar răspunsuri la întrebări sau asistență în sarcini creative, ci vor să delege fluxuri întregi de lucru către agenți. Platforma noastră, infrastructura AI și soluțiile de date sunt proiectate tocmai pentru a permite această delegare în siguranță și la scară largă”, a adăugat Thomas Kurian.

Pentru a avansa securitatea în spațiul digital, Google Cloud a anunțat și evoluția sistemului reCAPTCHA prin lansarea Fraud Defense. Această platformă este capabilă să evalueze legitimitatea și nivelul de autorizare nu doar pentru utilizatorii umani, ci și pentru boți sau agenți AI. Este o măsură vitală pentru securizarea parcursului comerțului digital, asigurând că agenții pot descoperi produse și finaliza tranzacții în siguranță. Totodată, sistemul centralizat de guvernanță permite companiilor să definească politici stricte de acces la date, prevenind scurgerile de informații confidențiale între departamente prin intermediul unui gateway de securitate ce monitorizează în timp real acțiunile fiecărui agent din rețea.

„AI Hypercomputer oferă fundația, Data Cloud oferă contextul, iar platforma noastră de agenți asigură orchestrarea. Tehnologia există – acum este momentul să construiți motorul de creștere”, a concluzionat Thomas Kurian, CEO, Google Cloud.