Microsoft nabył w tym roku prawie 500 000 procesorów graficznych NVIDIA „Hopper”.

cyberfeed.pl 1 tydzień temu



Microsoft intensywnie inwestuje, aby umożliwić swojej firmie i infrastrukturze chmurowej obsługę masowej ekspansji sztucznej inteligencji. Aby wesprzeć te wysiłki, gigant z Redmond nabył prawie pół miliona procesorów graficznych z rodziny „Hopper” firmy NVIDIA. Według firmy badawczej Omdia, Microsoft był największym hiperskalatorem, a wydatki CapEx i GPU na centra danych osiągnęły rekordowy poziom. Firma nabyła dokładnie 485 000 procesorów graficznych NVIDIA „Hopper”, w tym H100, H200 i H20, co dało ponad 30 miliardów dolarów wydanych na same serwery. Dla porównania, jest to mniej więcej dwukrotnie więcej niż w przypadku kolejnego co do wielkości nabywcy procesorów graficznych, chińskiego ByteDance, który nabył około 230 000 procesorów graficznych H800 objętych sankcjami i zwykłych źródeł H100 od stron trzecich.

Jeśli chodzi o firmy z siedzibą w USA, jedynymi, które zbliżyły się do wskaźnika przejęć GPU, są Meta, Tesla/xAI, Amazon i Google. Firma nabyła średnio około 200 000 procesorów graficznych, znacznie zwiększając wysiłki w zakresie projektowania układów scalonych. „Procesory graficzne NVIDIA miały niezwykle wysoki udział w nakładach inwestycyjnych na serwery” – zauważył Vlad Galabov, dyrektor ds. badań nad chmurami i centrami danych w firmie Omdia, dodając: „Jesteśmy blisko szczytu”. Osoby hiperskalowalne, takie jak Amazon, Google i Meta, pracowały nad niestandardowymi rozwiązaniami do szkolenia i wnioskowania AI. Na przykład Google ma swój TPU, Amazon ma swój Trening i chipy Inferentia, a Meta ma swoje MTIA. Osoby zajmujące się hiperskalem chętnie opracowują własne rozwiązania, ale kontrola NVIDIA nad stosem systemu w połączeniu z terminowymi aktualizacjami produktów wydaje się trudna do przełamania. Przewiduje się, iż najnowsze chipy „Blackwell” otrzymają jeszcze większe zamówienia, więc ograniczeniem jest tylko niebo (i lokalna elektrownia).



Source link

Idź do oryginalnego materiału