Pojawienie się agentów rozumujących i generowania interaktywnego wideo reprezentuje kolejny poziom możliwości sztucznej inteligencji. Wykorzystują one większą moc obliczeniową wnioskowania, aby umożliwić modelom „myślenie” więcej i generowanie wyników wyższej jakości. Corsair to idealne rozwiązanie do obliczeń wnioskowania, za pomocą którego przedsiębiorstwa mogą odblokować nowy poziom automatyzacji i inteligencji bez uszczerbku dla wydajności, kosztów i mocy.
„Widzieliśmy pojawienie się transformatorów i generatywnej sztucznej inteligencji, więc założyliśmy d-Matrix, aby stawić czoła wyzwaniom związanym z wnioskowaniem wokół największych możliwości obliczeniowych naszych czasów” – powiedział Sid Sheth, współzałożyciel i dyrektor generalny d-Matrix. „Pierwsza w swoim rodzaju platforma obliczeniowa Corsair zapewnia niesamowicie szybkie generowanie tokenów dla aplikacji o wysokiej interaktywności z wieloma użytkownikami, dzięki czemu sztuczna inteligencja generacji jest opłacalna komercyjnie”.
Firma analityczna Gartner przewiduje 160% wzrost zużycia energii w centrach danych w ciągu najbliższych dwóch lat, napędzany sztuczną inteligencją i GenAI. W rezultacie Gartner szacuje, iż do 2027 r. 40% istniejących centrów danych opartych na sztucznej inteligencji będzie miało ograniczenia operacyjne wynikające z dostępności zasilania. Wdrażanie modeli sztucznej inteligencji na dużą skalę może gwałtownie sprawić, iż staną się one zaporowe.
Nowości i przełomy w branży d-Matrix
d-Matrix łączy w sobie kilka pierwszych na świecie innowacji w zakresie krzemu, oprogramowania, opakowań chipletów i struktur połączeń wzajemnych, aby przyspieszyć wnioskowanie AI.
Wnioskowanie generatywne jest z natury związane z pamięcią. d-Matrix przełamuje tę barierę przepustowości pamięci dzięki nowatorskiej architekturze DIMC, która ściśle integruje pamięć i obliczenia. Skalowanie osiąga się dzięki łącza DMX do szybkiego i energooszczędnego połączenia typu die-to-die pomiędzy chipletami w pakiecie oraz mostka DMX do łączenia pakietów na dwóch kartach. d-Matrix jest jedną z pierwszych w branży, która natywnie obsługuje blokowe formaty liczb zmiennoprzecinkowych, w tej chwili standard OCP zwany Micro-scaling (MX), w celu zwiększenia wydajności wnioskowania. Te pierwsze w branży innowacje są płynnie zintegrowane pod maską ze stosem systemu Aviator firmy d-Matrix, który zapewnia twórcom sztucznej inteligencji znajomy interfejs użytkownika i narzędzia.
Corsair jest dostępny w standardowej w branży karcie PCIe Gen 5 o pełnej wysokości i pełnej długości, z parami kart połączonych dzięki kart DMX Bridge. Każda karta Corsair jest zasilana przez rdzenie obliczeniowe DIMC z 2400 TFLOP przy 8-bitowych obliczeniach szczytowych, 2 GB zintegrowanej pamięci Performance Memory i do 256 GB pamięci pojemnościowej poza chipem. Architektura DIMC zapewnia bardzo wysoką przepustowość pamięci wynoszącą 150 TB/s, znacznie wyższą niż HBM. Corsair zapewnia do 10 razy większą prędkość interaktywną, 3 razy lepszą wydajność w przeliczeniu na całkowity koszt posiadania (TCO) i 3 razy większą efektywność energetyczną.
„d-Matrix stoi na czele monumentalnej zmiany w Gen AI jako pierwsza firma, która w pełni rozwiązała problemy związane ze sztuczną inteligencją w przedsiębiorstwach” – powiedział Michael Stewart, partner zarządzający M12, funduszu Venture Fund firmy Microsoft. „Zbudowana przez światowej klasy zespół i wprowadzająca przełomowe rozwiązania definiujące kategorie, platforma obliczeniowa d-Matrix radykalnie zmienia możliwości przedsiębiorstw w zakresie dostępu do infrastruktury na potrzeby operacji AI i umożliwia im stopniowe skalowanie operacji bez ograniczeń energetycznych i problemów z opóźnieniami, które miały miejsce Sztuczna inteligencja powraca do zastosowań w przedsiębiorstwach d-Matrix demokratyzuje dostęp do sprzętu potrzebnego do zasilania sztucznej inteligencji w standardowej obudowie, aby sztuczna inteligencja generacji była w końcu dostępna dla wszystkich.
Dostępność rozwiązań wnioskowania d-Matrix Corsair
Corsair udostępnia próbki klientom korzystającym z wczesnego dostępu i będzie powszechnie dostępny w drugim kwartale 2025 roku. d-Matrix jest dumny ze współpracy z producentami OEM i integratorami systemów, aby wprowadzać na rynek rozwiązania oparte na Corsair.
„Jesteśmy podekscytowani współpracą z d-Matrix nad ich rozwiązaniem obliczeniowym w pamięci Corsair o ultrawysokiej przepustowości, które zostało stworzone specjalnie z myślą o generatywnej sztucznej inteligencji i przyspieszeniu wdrażania zrównoważonych obliczeń AI” – powiedział Vik Malyala, starszy wiceprezes ds. Technologia i sztuczna inteligencja, Supermicro. „Nasze, wysokowydajne, kompleksowe systemy chłodzone cieczą i powietrzem, wykorzystujące technologię Corsair, idealnie nadają się do obliczeń AI następnego poziomu”.
„Połączenie karty Corsair PCIe firmy d-Matrix z wiodącą w branży skalowalną architekturą GigaIO SuperNODE tworzy rewolucyjne rozwiązanie dla przedsiębiorstw wdrażających na dużą skalę wnioskowanie AI nowej generacji” – powiedział Alan Benjamin, dyrektor generalny GigaIO. „Nasz jednowęzłowy serwer obsługuje 64 lub więcej procesorów Corsair, zapewniając ogromną moc obliczeniową i komunikację między kartami o niskim opóźnieniu. Corsair SuperNODE eliminuje złożone konfiguracje wielowęzłowe i upraszcza wdrażanie, umożliwiając przedsiębiorstwom szybkie dostosowywanie się do zmieniających się obciążeń AI, jednocześnie znacznie poprawiając wydajność TCO i efektywność operacyjna.”
„Dzięki integracji d-Matrix Corsair, Liqid zapewnia niezrównane możliwości, elastyczność i wydajność, pokonując tradycyjne ograniczenia, aby zapewnić wyjątkową wydajność wnioskowania. W gwałtownie rozwijającym się środowisku sztucznej inteligencji umożliwiamy klientom spełnienie rygorystycznych wymagań w zakresie wnioskowania dzięki rozwiązaniu Corsair o ultraniskim opóźnieniu, ” powiedział Sumit Puri, współzałożyciel w Liqid.
