HBM to najważniejszy komponent zintegrowany z XPU, wykorzystujący zaawansowaną technologię pakowania 2,5D i szybkie interfejsy zgodne ze standardami branżowymi. Jednak skalowanie jednostek XPU jest ograniczone przez obecną standardową architekturę opartą na interfejsie. Nowa, niestandardowa architektura obliczeniowa Marvell HBM wprowadza dostosowane interfejsy w celu optymalizacji wydajności, mocy, rozmiaru matrycy i kosztów dla określonych projektów XPU. Podejście to uwzględnia krzem obliczeniowy, stosy HBM i opakowanie. Dostosowując podsystem pamięci HBM, w tym sam stos, Marvell przyspiesza dostosowywanie infrastruktury centrum danych w chmurze. Marvell współpracuje z głównymi producentami HBM w celu wdrożenia tej nowej architektury i zaspokojenia potrzeb operatorów centrów danych w chmurze.
Niestandardowa architektura obliczeniowa Marvell HBM ulepsza procesory XPU poprzez serializację i przyspieszanie interfejsów we/wy między wewnętrznymi krzemowymi układami akceleratora obliczeniowego AI a podstawowymi układami HBM. Skutkuje to większą wydajnością i do 70% niższą mocą interfejsu w porównaniu do standardowych interfejsów HBM. Zoptymalizowane interfejsy zmniejszają również wymaganą ilość krzemu w każdej matrycy, umożliwiając integrację logiki obsługującej HBM z matrycą podstawową. Te oszczędności na nieruchomości, aż do 25%, można wykorzystać do zwiększenia możliwości obliczeniowych, dodania nowych funkcji i obsługi do 33% większej liczby stosów HBM, zwiększając pojemność pamięci na jednostkę XPU. Te ulepszenia zwiększają wydajność XPU i efektywność energetyczną, jednocześnie obniżając całkowity koszt posiadania dla operatorów chmury.
„Wiodący operatorzy centrów danych w chmurze skalowali się dzięki niestandardowej infrastrukturze. Udoskonalanie procesorów XPU poprzez dostosowywanie HBM pod kątem określonej wydajności, mocy i całkowitego kosztu posiadania to najnowszy krok w nowym paradygmacie w sposobie projektowania i dostarczania akceleratorów AI” – powiedział Will Chu, starszy wiceprezes i dyrektor generalny grupy ds. rozwiązań niestandardowych, obliczeniowych i pamięci masowej w Marvell. „Jesteśmy bardzo wdzięczni za współpracę z wiodącymi projektantami pamięci w celu przyspieszenia tej rewolucji i pomocy operatorom centrów danych w chmurze w dalszym skalowaniu ich procesorów XPU i infrastruktury na potrzeby ery sztucznej inteligencji”.
„Większa pojemność pamięci i przepustowość pomogą operatorom chmury w efektywnym skalowaniu infrastruktury na potrzeby ery sztucznej inteligencji” – powiedział Raj Narasimhan, starszy wiceprezes i dyrektor generalny jednostki biznesowej Compute and Networking firmy Micron. „Strategiczna kooperacja skupiona na efektywności energetycznej, taka jak ta, którą prowadzimy z Marvell, będzie opierać się na wiodących w branży specyfikacjach zasilania HBM firmy Micron i zapewni hiperskalerom solidną platformę zapewniającą możliwości i optymalną wydajność wymaganą do skalowania sztucznej inteligencji”.
„Optymalizacja HBM pod kątem konkretnych procesorów XPU i środowisk systemu znacznie poprawi wydajność infrastruktury operatorów chmury i zapewni efektywne wykorzystanie energii” – powiedział Harry Yoon, wiceprezes wykonawczy Samsung Electronics i szef planowania produktów i rozwiązań na Amerykę. „Postęp sztucznej inteligencji zależy od tak ukierunkowanych wysiłków. Z niecierpliwością czekamy na współpracę z firmą Marvell, liderem w dziedzinie innowacyjnych rozwiązań krzemowych do obliczeń niestandardowych”.
„Współpracując z firmą Marvell, możemy pomóc naszym klientom w opracowaniu bardziej zoptymalizowanego rozwiązania pod kątem ich obciążeń i infrastruktury” – powiedział Sunny Kang, wiceprezes ds. technologii DRAM w SK hynix America. „Jako jeden z wiodących pionierów HBM, nie możemy się doczekać kształtowania kolejnego etapu ewolucji tej technologii”.
„Niestandardowe procesory XPU zapewniają doskonałą wydajność i wydajność w przeliczeniu na wat w porównaniu do dostępnych w sklepach rozwiązań ogólnego przeznaczenia do konkretnych, specyficznych dla chmury obciążeń” – powiedział Patrick Moorhead, dyrektor generalny i założyciel Moor Insights & Strategy. „Marvell, będący już graczem na rynku niestandardowych krzemów obliczeniowych, już dostarcza dostosowane rozwiązania wiodącym firmom zajmującym się chmurą. Ich najnowsza platforma architektury HBM do obliczeń niestandardowych zapewnia dodatkową dźwignię zwiększającą TCO w przypadku niestandardowych krzemów. Dzięki strategicznej współpracy z wiodącymi producentami pamięci Marvell jest jest gotowy umożliwić operatorom chmury skalowanie swoich procesorów XPU i przyspieszonej infrastruktury, torując im w ten sposób drogę do umożliwienia przyszłości sztucznej inteligencji”.
