Jeśli szukasz własnego superkomputera AI, Nvidia ma dla Ciebie wszystko.
Producent chipów ogłosił na targach CES w maju wypuści na rynek osobisty superkomputer AI o nazwie Project Digits. Sercem Project Digits jest nowy GB10 Grace Blackwell Superchip, który ma wystarczającą moc obliczeniową, aby obsługiwać zaawansowane modele AI, a jednocześnie jest na tyle kompaktowy, iż zmieści się na biurku i będzie zasilany ze standardowego gniazdka elektrycznego (ten rodzaj mocy obliczeniowej wymagał kiedyś znacznie większych , systemy bardziej energochłonne). Ten system wielkości komputera stacjonarnego może obsługiwać modele AI z maksymalnie 200 miliardami parametrów, a jego cena początkowa wynosi 3000 dolarów. Sam produkt wygląda bardzo podobny do Maca Mini.
„Sztuczna inteligencja będzie głównym nurtem w każdym zastosowaniu w każdej branży. Dzięki Project Digits Grace Blackwell Superchip trafia do milionów programistów” – powiedział w notatce prasowej dyrektor generalny Nvidii Jensen Huang. „Umieszczenie superkomputera AI na biurku każdego analityka danych, badacza AI i studenta umożliwia im angażowanie się w erę sztucznej inteligencji i kształtowanie jej”.
Project Digits wygląda jak mini PC.Obraz: Nvidia
Każdy system Project Digits jest wyposażony w 128 GB zunifikowanej, spójnej pamięci (dla porównania dobry laptop może mieć 16 GB lub 32 GB pamięci RAM) i do 4 TB pamięci NVMe. W przypadku jeszcze bardziej wymagających zastosowań można połączyć ze sobą dwa systemy Project Digits w celu obsługi modeli o choćby 405 miliardach parametrów (najlepszy model Meta, Llama 3.1, ma 405 miliardów parametrów).
Układ GB10 zapewnia do 1 petaflop wydajności AI (co oznacza, iż może wykonywać 1 biliard obliczeń AI na sekundę) z precyzją FP4 (co pomaga przyspieszyć obliczenia poprzez dokonywanie przybliżeń), a system jest wyposażony w rdzenie CUDA najnowszej generacji firmy Nvidia i Rdzenie Tensor piątej generacji, połączone za pośrednictwem NVLink-C2C z procesorem Grace zawierającym 20 energooszczędnych rdzeni opartych na architekturze ARM. Firma MediaTek, znana z konstrukcji chipów opartych na architekturze ARM, współpracowała przy opracowywaniu GB10 w celu optymalizacji jego efektywności energetycznej i wydajności.
Specyfikacja superkomputera Digits.Obraz: Nvidia
Użytkownicy uzyskają także dostęp do biblioteki systemu AI firmy Nvidia, w tym zestawów programistycznych, narzędzi do orkiestracji i wstępnie wytrenowanych modeli dostępnych w katalogu Nvidia NGC. System działa na systemie operacyjnym Nvidia DGX opartym na systemie Linux i obsługuje popularne platformy, takie jak notebooki PyTorch, Python i Jupyter. Programiści mogą dostrajać modele dzięki platformy Nvidia NeMo i przyspieszać przepływ pracy w zakresie analizy danych dzięki bibliotekom Nvidia RAPIDS.
Użytkownicy mogą opracowywać i testować swoje modele sztucznej inteligencji lokalnie w Project Digits, a następnie wdrażać je w usługach w chmurze lub infrastrukturze centrum danych, korzystając z tej samej architektury Grace Blackwell i platformy systemu Nvidia AI Enterprise.
Nvidia oferuje szereg podobnych urządzeń w tym samym dostępność stylu — w grudniu ogłosiła wersję swojego komputera Jetson za 249 dolarów do zastosowań AI, skierowaną do hobbystów i start-upów, o nazwie Jetson Orin Nano Super (obsługuje modele do 8 miliardów parametrów).
