Dzięki Project DIGITS użytkownicy mogą opracowywać i uruchamiać wnioskowanie na modelach przy użyciu własnego systemu komputerowego, a następnie bezproblemowo wdrażać modele w przyspieszonej infrastrukturze chmury lub centrum danych. „Sztuczna inteligencja będzie głównym nurtem każdej aplikacji w każdej branży. Dzięki Project DIGITS Grace Blackwell Superchip trafia do milionów programistów” – powiedział Jensen Huang, założyciel i dyrektor generalny firmy NVIDIA. „Umieszczenie superkomputera AI na biurku każdego analityka danych, badacza AI i studenta umożliwia im angażowanie się w erę sztucznej inteligencji i kształtowanie jej”.
GB10 Superchip zapewnia petaflop energooszczędnej wydajności AI
GB10 Superchip to układ typu system-on-a-chip (SoC) oparty na architekturze NVIDIA Grace Blackwell, zapewniający do 1 petaflopa wydajności AI z precyzją 4PR.
GB10 jest wyposażony w procesor graficzny NVIDIA Blackwell z rdzeniami CUDA najnowszej generacji i rdzeniami Tensor piątej generacji, połączony za pośrednictwem połączenia międzyukładowego NVLink -C2C z wysokowydajnym procesorem NVIDIA Grace, który zawiera 20 energooszczędnych rdzeni zbudowanych z ARM architektura. MediaTek, lider na rynku projektów SoC opartych na architekturze ARM, współpracował przy projektowaniu GB10, przyczyniając się do jego najlepszej w swojej klasie efektywności energetycznej, wydajności i łączności.
Superchip GB10 umożliwia Project DIGITS zapewnianie dużej wydajności przy użyciu wyłącznie standardowego gniazdka elektrycznego. Każdy projekt DIGITS zawiera 128 GB zunifikowanej, spójnej pamięci i do 4 TB pamięci NVMe. Dzięki superkomputerowi programiści mogą uruchamiać duże modele językowe zawierające do 200 miliardów parametrów, aby usprawnić innowacje w zakresie sztucznej inteligencji. Ponadto, korzystając z sieci NVIDIA ConnectX, można połączyć dwa superkomputery AI projektu DIGITS w celu uruchomienia modeli o parametrach sięgających choćby 405 miliardów.
Grace Blackwell Superkomputer AI w zasięgu ręki
Dzięki architekturze Grace Blackwell przedsiębiorstwa i badacze mogą prototypować, dostrajać i testować modele na lokalnych systemach Project DIGITS z systemem operacyjnym NVIDIA DGX opartym na systemie Linux, a następnie bezproblemowo wdrażać je w chmurze NVIDIA DGX, przyspieszonych instancjach chmurowych lub infrastrukturze centrum danych.
Umożliwia to programistom prototypowanie sztucznej inteligencji w ramach Project DIGITS, a następnie skalowanie w infrastrukturze chmury lub centrum danych, przy użyciu tej samej architektury Grace Blackwell i platformy systemu NVIDIA AI Enterprise.
Użytkownicy projektu DIGITS mają dostęp do obszernej biblioteki systemu NVIDIA AI do eksperymentów i prototypowania, w tym zestawów do tworzenia oprogramowania, narzędzi do orkiestracji, frameworków i modeli dostępnych w katalogu NVIDIA NGC i na portalu NVIDIA Developer. Programiści mogą dostrajać modele dzięki platformy NVIDIA NeMo, przyspieszać analizę danych dzięki bibliotekom NVIDIA RAPIDS i uruchamiać popularne platformy, takie jak notebooki PyTorch, Python i Jupyter.
Do tworzenia agentycznych aplikacji AI użytkownicy mogą także wykorzystać rozwiązania NVIDIA Blueprints i mikrousługi NVIDIA NIM, które są dostępne do celów badań, rozwoju i testowania w ramach programu NVIDIA Developer Program. Gdy aplikacje AI będą gotowe do przejścia ze środowisk eksperymentalnych do środowisk produkcyjnych, licencja NVIDIA AI Enterprise zapewnia bezpieczeństwo klasy korporacyjnej, wsparcie i wydawanie produktów systemu NVIDIA AI.
Dostępność
Projekt DIGITS będzie dostępny w maju od firmy NVIDIA i najlepszych partnerów w cenie zaczynającej się od 3000 USD. Zapisz się na powiadomienia już dziś.
