Google ogłosiło dziś rozszerzenie portfolio układów TPU ósmej generacji o dwa nowe systemy: TPU 8i Max i TPU 8tx. Oba specjalizują się w bezpiecznej AI, operującej na dużym kontekście, a każdy obsługuje inny etap cyklu życia AI. To pierwszy raz, gdy Google wprowadziło cztery konfiguracje TPU w ciągu jednego roku.
Google wykorzystuje układy TPU na wiele sposobów: do trenowania i uruchamiania własnych modeli Gemini oraz obsługi zadań agentowych, do świadczenia usług klientom Google Cloud we własnej infrastrukturze chmurowej, a od niedawna – w odpowiedzi na rosnące zainteresowanie i popyt – także jako sprzęt, który klienci mogą wdrażać bezpośrednio we własnych centrach danych. Dzięki temu TPU stały się gwałtownie rosnącym biznesem z niemal 100 klientami. Są wśród nich laboratoria rozwijające najbardziej zaawansowane modele AI, firmy tradingowe, sieci handlowe, uczelnie i wiele innych organizacji.
Zaprezentowane po raz pierwszy w kwietniu 2026 r. podczas konferencji Cloud Next układy TPU 8t i TPU 8i wyznaczyły punkt wyjścia dla czipów tej generacji. W porównaniu z poprzednimi generacjami TPU zapewniają odpowiednio choćby 2,7 raza wyższą wydajność trenowania oraz choćby o 80% lepszy stosunek wydajności do ceny przy wnioskowaniu. TPU 8t zaprojektowano jako układ do trenowania ogromnych modeli bazowych z maksymalnym wskaźnikiem goodput, czyli ilością użytecznej inteligencji uzyskiwanej z każdego wata zużytej energii. TPU 8i to silnik rozumowania, zaprojektowany tak, by przełamać barierę pamięci – skraca opóźnienia w komunikacji między układami choćby o połowę. Teraz, gdy przedsiębiorstwa wprowadzają autonomiczne agenty AI do środowisk produkcyjnych, Google stworzyło dwie nowe konfiguracje tych bazowych systemów – TPU 8i Max i TPU 8tx. Odpowiadają one na dwa nowe wyzwania: bezpieczeństwo danych na poziomie sprzętu oraz pracę z kontekstem liczonym w milionach tokenów.
„Gdy obliczenia przechodzą z ludzi na agentów AI, firmy potrzebują akceleratorów zdolnych do rozumowania w obrębie ogromnych okien kontekstowych modeli. Część klientów z sektorów silnie regulowanych oczekuje też specjalistycznych funkcji szyfrowania dla specyficznych zadań” – powiedział Amin Vahdat, Chief Technologist i Senior Vice President ds. AI i infrastruktury w Google. „Nowe systemy TPU odpowiadają na tę rzeczywistość. W połączeniu z naszymi niedawnymi ogłoszeniami dotyczącymi PyTorch chcemy, aby układy TPU były łatwiej dostępne dla wszystkich programisty i każdego klienta. Łącząc modułowe, autorskie układy scalone z otwartym i łatwym w użyciu stosem oprogramowania, możemy dostarczać nowy sprzęt i konfiguracje systemów w tempie, w jakim rozwija się branża AI”.
TPU 8tx zoptymalizowany pod kątem poufnego wnioskowania i trenowania w mniejszej skali
TPU 8tx powstał z myślą o przedsiębiorstwach z sektorów regulowanych oraz instytucjach rządowych, które uruchamiają najbardziej zaawansowane lub własne modele AI i autonomiczne agenty w bezpośrednim sąsiedztwie swoich najbardziej wrażliwych danych.
Zazwyczaj dane są szyfrowane, gdy są przechowywane lub przesyłane przez sieć, ale podczas przetwarzania muszą zostać odszyfrowane w pamięci komputera. TPU 8tx, oparty na tym samym krzemie co TPU 8t i współpracujący z procesorami AMD EPYC piątej generacji pełniącymi funkcję hosta, wbudowuje zabezpieczenia bezpośrednio w warstwę sprzętową. Dzięki temu wrażliwe dane i wagi modeli pozostają chronione i odizolowane także w trakcie aktywnego przetwarzania. TPU 8tx korzysta przy tym z tej samej sieci Boardfly o niskich opóźnieniach, którą stworzono z myślą o rozumowaniu w czasie rzeczywistym. Pozwala to płynnie obsługiwać agenty realizujące zadania wieloetapowe: opóźnienia są choćby dwukrotnie niższe niż w TPU 8t, a spadek wydajności bliski zeru.
Połączenie mocy obliczeniowej klasy treningowej z szybką siecią do wnioskowania oznacza też, iż organizacje mogą jednocześnie uruchamiać i dostosowywać swoje modele w jednym systemie. TPU 8tx pozwala zespołom dostrajać modele na prywatnych danych, destylować duże modele do mniejszych oraz trenować agenty metodą uczenia ze wzmocnieniem – bez przenoszenia wrażliwych danych między oddzielnymi klastrami.
TPU 8i Max stworzony, by pokonać barierę pamięci
Gdy dziesiątki agentów AI pracują jednocześnie nad całą bazą kodu systemu lub godzinami nagrań wideo, przepustowość pamięci gwałtownie staje się wąskim gardłem. Dlatego Google połączyło dwa układy TPU 8i o niskich opóźnieniach w jednym module.
TPU 8i Max skaluje moc obliczeniową i pamięć równolegle: w porównaniu z TPU 8i zapewnia dwukrotnie większą moc obliczeniową, dwa razy więcej pamięci SRAM i dwukrotnie wyższą przepustowość pamięci HBM. Dzięki temu procesory mają stały dostęp do niezbędnych danych, a duże obciążenia działają bez przestojów. Ponieważ TPU 8i Max mieści dwa razy więcej krzemu w tej samej przestrzeni szafy serwerowej, centra danych mogą wdrażać znacznie więcej mocy obliczeniowej w przeliczeniu na powierzchnię i na wat.
Choć każdy z czterech systemów TPU ósmej generacji sprawdza się w różnych zastosowaniach, razem dają klientom akcelerator zaprojektowany do każdego etapu cyklu życia agentów AI: TPU 8t do trenowania w dużej skali, TPU 8i do rozumowania z niskimi opóźnieniami, TPU 8tx do poufnego przetwarzania danych, a TPU 8i Max do pracy z ogromnymi oknami kontekstowymi i zapewnienia najwyższej gęstości obliczeniowej w przeliczeniu na szafę serwerową.
