„Dostawcy usług AI w branży coraz częściej wymagają HBM o większej pojemności, a nasz nowy produkt HBM3E 12H został zaprojektowany, aby odpowiedzieć na tę potrzebę” – powiedział Yongcheol Bae, wiceprezes wykonawczy ds. planowania produktów pamięci w Samsung Electronics. „To nowe rozwiązanie pamięci stanowi część naszego dążenia do opracowania podstawowych technologii dla HBM o wysokim stosie i zapewnienia wiodącej pozycji technologicznej na rynku HBM o dużej pojemności w erze sztucznej inteligencji”.
W HBM3E 12H zastosowano zaawansowaną, nieprzewodzącą folię kompresyjną (TC NCF), dzięki czemu produkty 12-warstwowe mają tę samą specyfikację wysokości co produkty 8-warstwowe, aby spełnić aktualne wymagania opakowań HBM. Oczekuje się, iż technologia ta przyniesie dodatkowe korzyści, zwłaszcza w przypadku większych stosów, ponieważ branża stara się zapobiegać wypaczaniu się matrycy wiórowej w przypadku cieńszej matrycy. Firma Samsung w dalszym ciągu zmniejszała grubość materiału NCF i osiągnęła najmniejszą w branży szczelinę między chipami wynoszącą siedem mikrometrów (µm), eliminując jednocześnie puste przestrzenie między warstwami. Wysiłki te skutkują zwiększoną gęstością pionową o ponad 20% w porównaniu z produktem HBM3 8H.
Zaawansowana technologia TC NCF firmy Samsung poprawia również adekwatności termiczne HBM, umożliwiając zastosowanie nierówności o różnej wielkości pomiędzy chipami. Podczas procesu łączenia chipów mniejsze wybrzuszenia są stosowane w obszarach sygnalizacyjnych, a większe w miejscach wymagających odprowadzania ciepła. Ta metoda pomaga również w uzyskaniu wyższej wydajności produktu.
Ponieważ aplikacje AI rozwijają się wykładniczo, oczekuje się, iż HBM3E 12H będzie optymalnym rozwiązaniem dla przyszłych systemów wymagających większej ilości pamięci. Jego wyższa wydajność i pojemność pozwolą klientom bardziej elastycznie zarządzać zasobami i obniżyć całkowity koszt posiadania (TCO) centrów danych. Szacuje się, iż w przypadku zastosowania w aplikacjach AI, w porównaniu z przyjęciem HBM3 8H, średnia prędkość szkolenia AI może wzrosnąć o 34%, a liczba jednoczesnych użytkowników usług wnioskowania może wzrosnąć ponad 11,5 razy.
Samsung rozpoczął udostępnianie klientom próbek modelu HBM3E 12H, a masowa produkcja planowana jest na pierwszą połowę tego roku.