Aby sprostać aplikacjom intensywnie wykorzystującym pamięć, operatorzy centrów danych dodają dodatkowe serwery, aby uzyskać większą przepustowość pamięci i większą pojemność pamięci. Możliwości obliczeniowe dodanych procesorów zwykle nie są wykorzystywane w tych aplikacjach, co sprawia, iż serwery są nieefektywne pod względem kosztów i mocy. Standard branżowy CXL rozwiązuje to wyzwanie, umożliwiając nowe architektury, które mogą wydajnie dodawać pamięć do serwerów ogólnego przeznaczenia.
Linia produktów Structera obejmuje dwie rodziny urządzeń CXL, które są zoptymalizowane pod kątem różnych przypadków użycia. Akceleratory bliskiej pamięci Structera A CXL to nowa kategoria urządzeń, które integrują rdzenie procesorów klasy serwerowej i wiele kanałów pamięci z CXL, aby obsługiwać aplikacje pamięci o dużej przepustowości, takie jak modele rekomendacji głębokiego uczenia (DLRM) i uczenie maszynowe. Kontrolery rozszerzenia pamięci Structera X CXL umożliwiają dodawanie terabajtów pamięci do serwerów ogólnego przeznaczenia i obsługują aplikacje pamięci o dużej pojemności, takie jak bazy danych w pamięci. Rodziny urządzeń Structera CXL są pierwszymi w branży, które obsługują cztery kanały pamięci, integrują kompresję liniową i wykorzystują procesy produkcyjne 5 nm.
Oprócz standardowych produktów Structera A i X, firma Marvell opracowuje niestandardowe układy scalone CXL dla operatorów chmur, zoptymalizowane pod kątem ich unikalnej architektury i obciążeń.
Nowy przypadek użycia CXL: przyspieszenie ML/AI
Akceleratory Structera A integrują 16 rdzeni Arm Neoverse V2 i są zoptymalizowane w celu poprawy wydajności aplikacji o dużej przepustowości pamięci, takich jak DLRM. DLRM charakteryzuje się zarówno rzadkimi, jak i gęstymi operacjami pamięci. Rzadkie operacje mogą napotkać ścianę pamięci, w której przepustowość pamięci jest niewystarczająca dla dostępnego obliczenia. Akcelerator Structera A 2504, pierwszy produkt w rodzinie, obsługuje przepustowość pamięci do 200 GB/s i pojemność pamięci 4 TB.
W przypadku serwera DLRM wykorzystującego pojedynczy procesor 64-rdzeniowy dodanie pojedynczego urządzenia Structera A zwiększyłoby liczbę rdzeni obliczeniowych o 25% (64 w porównaniu do 80), łączną przepustowość pamięci o 50% (400 GB/s w porównaniu do 600 GB/s), całkowitą pamięć do 4 TB i przepustowość pamięci na rdzeń o 25% (6,25 GB/s w porównaniu do 7,5 GB/s). Poprawiłoby to również wydajność energetyczną przepustowości pamięci z 1 W do 0,83 W na GB/s. Dodanie dwóch urządzeń Structera A zwiększyłoby liczbę rdzeni obliczeniowych o 50%, podwoiłoby łączną przepustowość pamięci, zwiększyłoby pojemność pamięci do 8 TB, zwiększyłoby przepustowość pamięci na rdzeń o 50% i poprawiło wydajność energetyczną przepustowości pamięci do 0,75 W na GB/s.
Rodzina produktów Structera X została zaprojektowana do rozszerzania pojemności pamięci na serwer, aby sprostać aplikacjom pamięci o dużej pojemności. Urządzenia Structera X są pierwszymi w branży, które obsługują cztery kanały pamięci DDR4 i DDR5 oraz do trzech modułów pamięci DDR4 dual in-line (DIMM) na kanał (3DPC) w celu maksymalizacji pojemności pamięci na kontroler i węzeł serwera. Urządzenia te są również pierwszymi produktami rozszerzającymi pamięć CXL, które mogą jednocześnie obsługiwać dwa procesory serwera w celu optymalizacji wykorzystania energii, przestrzeni i pamięci.
Structera X 2404 umożliwia operatorom recykling modułów DDR4 DIMM z wycofanych z eksploatacji serwerów ogólnego przeznaczenia. Oczekuje się, iż miliony funkcjonalnych modułów DDR4 DIMM staną się odpadami elektronicznymi w ciągu najbliższych kilku lat, ponieważ operatorzy będą wymieniać istniejące serwery ogólnego przeznaczenia na nowe, wykorzystujące DDR5. Wykorzystanie „darmowych” modułów DDR4 DIMM do rozszerzenia pojemności tych serwerów zmniejsza nakłady inwestycyjne o tysiące dolarów na serwer ogólnego przeznaczenia. Ponowne wykorzystanie wycofanych z eksploatacji modułów DDR4 DIMM również odnosi się do celów zrównoważonego rozwoju centrów danych.
Produkty Structera jako pierwsze w branży wykorzystują sprzętową kompresję pamięci inline zgodną ze specyfikacjami Google i Meta zgłoszonymi do Open Compute Project (OCP).
„Dostęp do pamięci to wieloaspektowy problem, a dostawcy usług w chmurze różnią się znacząco, jeżeli chodzi o cele i strategie wdrażania dla CXL” — powiedział Bob Wheeler, główny analityk w Wheeler’s Network. „Marvell opracował długoterminową wizję dla CXL, która wykorzystuje tę różnorodność zastosowań i zachęci hiperskalowców i innych do przyjęcia CXL w celu skalowania tak zwanej ściany pamięci”.
„Nasza nowa linia produktów Structera CXL będzie przełomem, jeżeli chodzi o umożliwienie optymalnego wykorzystania zasobów i obniżenie zużycia energii w celu skalowania obciążeń intensywnie wykorzystujących pamięć w chmurze” — powiedział Raghib Hussain, prezes ds. produktów i technologii w Marvell. „Marvell realizuje obietnicę CXL i nasze zobowiązanie wobec klientów, aby pomóc im rozwiązać najtrudniejsze problemy. CXL przez cały czas będzie kluczowym czynnikiem technologicznym umożliwiającym przyspieszenie infrastruktury w naszych portfelach obliczeniowych, łączności i pamięci masowej”.
Szerokie wsparcie ekosystemu
Kilka firm opracowuje plany wsparcia nowej linii produktów Structera CXL.
„W miarę dojrzewania CXL otwiera możliwości innowacji poprzez dezagregację, umożliwiając transformacyjne aplikacje w całym ekosystemie centrów danych” — powiedział Raghu Nambiar, wiceprezes ds. korporacyjnych ekosystemów i rozwiązań centrów danych w AMD. „Nasza kooperacja z Marvell jest sednem zapewnienia naszego zaangażowania w ten ekosystem; dostarczania wydajności i efektywności energetycznej potrzebnych do wdrażania i skalowania infrastruktury nowej generacji w celu zasilania najbardziej wymagających aplikacji biznesowych i AI”.
„Nowa rodzina kontrolerów Marvell Structera CXL łączy technologię kompresji i doświadczenie SoC firmy Marvell z korzyściami wydajnościowymi i efektywnościowymi Neoverse V2 w sposób, który ilustruje tempo innowacji możliwe tylko dzięki Arm Neoverse” — powiedział Mohamed Awad, starszy wiceprezes i dyrektor generalny ds. infrastruktury w Arm. „To właśnie ten rodzaj zoptymalizowanego przetwarzania zmniejsza zużycie energii i umożliwia wysokowydajną infrastrukturę, której wymaga AI”.
Debendra Das Sharma, Chief I/O Architect w firmie Intel, powiedziała: „Intel jest zachwycony, iż Marvell przyczynia się do rozwoju ekosystemu CXL, w tym do wykorzystania ekspanderów pamięci do rozwiązań rozszerzających pojemność i przepustowość. Rozwiązania te umożliwiają ponowne wykorzystanie modułów DIMM DDR4 do rozszerzania pojemności pamięci, a także zwiększają przepustowość pamięci dostępną dla rdzeni procesora. Dzięki obsłudze CXL 2.0 rodzina produktów Intel Xeon 6.0 jest na czele tych zmian i docenia współpracę z firmą Marvell w celu wprowadzenia tych rozwiązań na rynek”.
„Marvell jest ważnym partnerem ekosystemu CXL dla Micron, a nasza kooperacja pomoże przyspieszyć adopcję rozszerzenia pamięci w branży. Nasza kooperacja w zakresie interoperacyjności pamięci umożliwi elastyczne i skalowalne zasoby pamięci, aby sprostać rosnącej liczbie rdzeni procesora i obciążeniom intensywnie przetwarzającym dane” — powiedział Vijay Nain, starszy dyrektor ds. zarządzania produktami CXL w Micron. „Dzięki zwiększeniu pojemności pamięci i zmniejszeniu opóźnień operatorzy centrów danych mogą skorzystać ze zmniejszenia nakładów inwestycyjnych i operacyjnych”.
cechy produktu
Marvell Struktura A 2504
- PCIe 5.0/CXL 2.0 x16
- Cztery kanały pamięci DRAM DDR5 6400 MT/s
- Obsługa dwóch modułów pamięci DIMM na kanał (2DPC)
- 16 rdzeni Arm Neoverse V2 o częstotliwości 3,2 GHz
- Kompresja i dekompresja liniowa LZ4
- Szyfrowanie i deszyfrowanie AES-XTS 256-bitowe w trybie inline
- Wbudowany moduł bezpieczeństwa sprzętowego i bezpieczny rozruch
Marvell Struktura X 2404
- PCIe 5.0/CXL 2.0 1 x16 lub 2 x8
- Cztery kanały pamięci DRAM DDR4 3200 MT/s
- Obsługa trzech modułów pamięci DIMM na kanał (3DPC)
- Kompresja i dekompresja liniowa LZ4
- Szyfrowanie i deszyfrowanie AES-XTS 256-bitowe w trybie inline
- Wbudowany moduł bezpieczeństwa sprzętowego i bezpieczny rozruch
Marvell Struktura X 2504
- PCIe 5.0/CXL 2.0 1 x16 lub 2 x8
- Cztery kanały pamięci DRAM DDR5 6400 MT/s
- Obsługa dwóch modułów pamięci DIMM na kanał (2DPC)
- Kompresja i dekompresja liniowa LZ4
- Szyfrowanie i deszyfrowanie AES-XTS 256-bitowe w trybie inline
- Wbudowany moduł bezpieczeństwa sprzętowego i bezpieczny rozruch
Dostępność
Akceleratory pamięci bliskiej Structera A, kontrolery rozszerzające pamięć Structera X i niestandardowe układy scalone CXL zostaną udostępnione w czwartym kwartale 2024 r.
