NVIDIA zaprezentowała swój najnowszy superkomputer stacjonarny – Project DIGITS AI – podczas targów CES 2025. To przełomowe rozwiązanie pozwala deweloperom i badaczom sztucznej inteligencji na opracowywanie i uruchamianie ogromnych modeli językowych (LLM) na komputerach stacjonarnych. Do tej pory takie możliwości były zarezerwowane wyłącznie dla drogich usług chmurowych lub specjalistycznych centrów danych.
Project DIGITS umożliwia trenowanie modeli o wielkości do 200 miliardów parametrów na jednej jednostce, a po połączeniu dwóch systemów – aż 405 miliardów parametrów. To czyni go jednym z najbardziej wydajnych komputerów stacjonarnych na świecie.
Jakie możliwości daje Project DIGITS?
Dotychczas programiści musieli korzystać z ograniczonego sprzętu lokalnego, takiego jak popularna karta graficzna NVIDIA 4090, która pozwala na pracę z modelami do około 30 miliardów parametrów. Większe projekty wymagały korzystania z kosztownych usług chmurowych, co znacząco zwiększało koszty oraz ograniczało elastyczność pracy.
Teraz, dzięki Project DIGITS, deweloperzy mogą lokalnie posiadać superwydajną jednostkę zdolną do uruchamiania praktycznie każdego modelu AI. Oznacza to nie tylko oszczędność kosztów, ale również większą kontrolę nad procesem rozwoju i trenowania modeli. Co więcej, system jest kompatybilny z rozwiązaniami chmurowymi NVIDIA DGX Cloud, dzięki czemu projekty można z łatwością przenosić między lokalnym komputerem a chmurą.
Specyfikacja techniczna
Każda jednostka Project DIGITS została wyposażona w najnowsze technologie, które zapewniają ogromną moc obliczeniową:
- 20-rdzeniowy procesor ARM.
- Procesor graficzny NVIDIA Grace Blackwell, oferujący wydajność na poziomie 1 PetaFLOP w formacie FP4.
- 128 GB pamięci RAM DDR5X, co umożliwia przetwarzanie ogromnych ilości danych.
- 4 TB pamięci NVMe dla szybkiego dostępu do danych.
Dodatkowo format obliczeń FP4, choć mniej precyzyjny niż FP16 czy FP8, został zoptymalizowany przez NVIDIA tak, aby zminimalizować różnice w dokładności wyników, jednocześnie znacząco przyspieszając proces trenowania modeli.
System operacyjny NVIDIA DGX OS
Superkomputer działa na bazującym na Ubuntu systemie operacyjnym NVIDIA DGX OS, który został specjalnie zaprojektowany dla architektury Grace Blackwell. Umożliwia to deweloperom płynne prototypowanie, testowanie i dostrajanie modeli lokalnie, a następnie ich łatwe wdrażanie w chmurze lub centrach danych. Takie podejście eliminuje problemy z kompatybilnością i pozwala na większą swobodę w zarządzaniu projektami.
Kiedy dostępny i jaka cena?
Premiera Project DIGITS planowana jest na maj 2025 roku, a cena jednej jednostki ma wynosić około 3000 USD. To atrakcyjna oferta, biorąc pod uwagę możliwości, jakie oferuje ten system. Zainteresowani deweloperzy mogą już teraz zapisywać się na stronie NVIDIA, aby otrzymać powiadomienia o dostępności urządzenia.
Podsumowanie
NVIDIA Project DIGITS to rozwiązanie, które zmienia reguły gry w świecie sztucznej inteligencji. Dzięki niemu deweloperzy zyskują możliwość lokalnej pracy nad zaawansowanymi projektami bez potrzeby inwestowania w drogie usługi chmurowe. Wysoka wydajność, elastyczność oraz możliwość integracji z rozwiązaniami chmurowymi sprawiają, iż Project DIGITS jest doskonałym wyborem zarówno dla indywidualnych badaczy, jak i dużych przedsiębiorstw.
