Niższe koszty obliczeń AI i znacznie lepsza wydajność
W miarę jak generatywna sztuczna inteligencja w dalszym ciągu penetruje różne branże, wiele urządzeń brzegowych napotyka wąskie gardła w wydajności z powodu niewystarczającej pojemności pamięci DRAM podczas wykonywania dużych modeli językowych, co wpływa na operacje na modelach, a choćby powoduje problemy, takie jak nieodpowiednia długość tokena. Seria DLAP Supreme, wykorzystująca technologię aiDAPTIV+, skutecznie pokonuje te ograniczenia i znacznie zwiększa wydajność obliczeniową. Dodatkowo wspiera urządzenia brzegowe w prowadzeniu generatywnego szkolenia z modelu języka, udostępniając im możliwości szkolenia w zakresie modelu AI oraz poprawiając ich autonomiczne uczenie się i zdolności adaptacyjne.
Na przykład podczas korzystania z DLAP-411 Orin Supreme wyposażonego w konfigurację NVIDIA Jetson AGX Orin 32 GB wraz z modelem Gemma 27B, wnioskowanie TTFT poprawiło się 8-krotnie, a długość tokena wzrosła 4-krotnie. Dodatkowo może wykonywać zadania szkoleniowe dla modeli, które zwykle wymagają procesorów graficznych Tensor Core H100/A100 80G, znacznie zwiększając wydajność operacji na modelach generatywnej sztucznej inteligencji, jednocześnie radykalnie zmniejszając koszty wdrażania generatywnych aplikacji AI.
Ścisła kooperacja w celu tworzenia bardziej niezawodnych rozwiązań AI
Ethan Chen, dyrektor generalny jednostki biznesowej platformy Edge Computing Platform firmy ADLINK, stwierdził: „Dzięki serii DLAP Supreme chcemy pomóc większej liczbie przedsiębiorstw i organizacji w łatwym wdrażaniu technologii generatywnej sztucznej inteligencji, przy jednoczesnej poprawie wydajności i obniżeniu kosztów. Będziemy przez cały czas ściśle współpracować z firmą Phison oraz naszym globalnym partnerom zajmującym się sztuczną inteligencją w celu zbudowania opartego na współpracy ekosystemu aplikacji sztucznej inteligencji i promowania powszechnego przyjęcia technologii generatywnej sztucznej inteligencji”.
KS Pua, dyrektor generalny Phison Electronics, stwierdził, iż „Phison współpracuje z firmą ADLINK na rynku przemysłowych pamięci masowych od ponad dziesięciu lat, współpracując nad wprowadzaniem innowacji technologicznych i dostarczaniem branży najcenniejszych rozwiązań. Wraz z wprowadzeniem rozwiązania Phison Edge AI , aiDAPTIV+, jesteśmy podekscytowani możliwością wsparcia firmy ADLINK w opracowywaniu nowej serii generatywnej sztucznej inteligencji DLAP Supreme opartej na platformie NVIDIA Jetson AGX Orin. Ta kooperacja stanowi nie tylko znaczący kamień milowy, ale także otwiera nowe rozdział w rozwoju brzegowej sztucznej inteligencji. Dzięki naszej głębokiej współpracy naszym celem jest przyspieszenie i rozszerzenie zastosowania brzegowej sztucznej inteligencji w dostrajaniu modeli w różnych zastosowaniach i na różnych rynkach, szczególnie w inteligentnej produkcji, inteligentnych miastach i innych scenariuszach przemysłowych to partnerstwo nie tylko zaspokoi rosnące zapotrzebowanie na najnowocześniejszą sztuczną inteligencję, ale także popchnie branżę w stronę inteligentniejszej i bardziej wydajnej przyszłości”.
Rozszerzanie aplikacji i obsługa różnorodnych modułów
Wprowadzenie na rynek serii DLAP Supreme nie tylko otwiera nowe możliwości dla aplikacji AI generujących brzegi, ale także pomaga różnym branżom przezwyciężyć ograniczenia pamięci, w pełni odblokowując potencjał technologii AI. Oprócz przełomowej optymalizacji dla AGX Orin, technologia aiDAPTIV+ może również rozszerzyć pamięć podstawowych modułów Orin Nano, NX i Super, umożliwiając większej liczbie urządzeń wykonywanie wysoce wydajnych obliczeń AI. ADLINK planuje dalsze wprowadzanie na rynek wersji Orin Nano Super i NX Super, aby jeszcze bardziej rozszerzyć zakres zastosowań serii DLAP Supreme, spełniając różnorodne potrzeby obliczeniowe AI.
