Google pokazuje TPU 8t i TPU 8i. Nowa generacja układów stawia na osobne ścieżki dla uczenia modeli i wnioskowania

Google znów dokręca śrubę w wyścigu o infrastrukturę dla sztucznej inteligencji, ale tym razem nie chodzi o prosty wzrost mocy. Firma pokazuje, iż rynek dojrzał do momentu, w którym jeden akcelerator przestaje wystarczać do wszystkiego. Za marketingowym hasłem o erze agentów kryje się znacznie bardziej przyziemna sprawa, a mianowicie koszt pojedynczej odpowiedzi, opóźnienia i skala, która zaczyna pożerać budżety centrów danych.