Modele te — oferowane jako mikrousługi NVIDIA NIM — są akcelerowane przez nowe procesory graficzne GeForce RTX z serii 50, które oferują do 3352 bilionów operacji na sekundę w ramach wydajności AI i 32 GB pamięci VRAM. Zbudowane w oparciu o architekturę NVIDIA Blackwell, serie RTX 50 to pierwsze konsumenckie procesory graficzne, które dodają obsługę obliczeń w FP4, zwiększając wydajność wnioskowania AI dwukrotnie i umożliwiając lokalne działanie generatywnych modeli AI przy mniejszym zużyciu pamięci w porównaniu ze sprzętem poprzedniej generacji.
Mikrousługi NIM połączone z tymi graficznymi interfejsami użytkownika ułatwią dostęp do najnowszych generatywnych modeli sztucznej inteligencji i ich wdrażanie. Projekty NVIDIA AI Blueprints, zbudowane w oparciu o mikrousługi NIM, zapewniają łatwe w użyciu, wstępnie skonfigurowane referencyjne przepływy pracy dla cyfrowych ludzi, tworzenia treści i nie tylko. Aby sprostać rosnącemu zapotrzebowaniu twórców i entuzjastów sztucznej inteligencji, każdy czołowy producent komputerów PC i konstruktor systemów wprowadza na rynek komputery PC RTX AI obsługujące NIM i wyposażone w procesory graficzne GeForce RTX z serii 50. „Sztuczna inteligencja rozwija się z prędkością światła, od sztucznej inteligencji percepcyjnej po sztuczną inteligencję generatywną, a w tej chwili sztuczną inteligencję agentyczną” – powiedział Jensen Huang, założyciel i dyrektor generalny NVIDIA. „Mikrousługi NIM i plany sztucznej inteligencji dają programistom i entuzjastom komputerów osobistych elementy umożliwiające odkrywanie magii sztucznej inteligencji”.
Uczynienie AI NIMble
Podstawowe modele – sieci neuronowe wytrenowane na ogromnych ilościach surowych danych – to elementy składowe generatywnej sztucznej inteligencji.
NVIDIA udostępni szereg mikrousług NIM dla komputerów PC z procesorem RTX AI od czołowych twórców modeli, takich jak Black Forest Labs, Meta, Mistral i Stability AI. Przypadki użycia obejmują duże modele językowe (LLM), modele języka wizyjnego, generowanie obrazów, mowę, modele osadzania na potrzeby generacji wspomaganej wyszukiwaniem (RAG), ekstrakcję plików PDF i wizję komputerową.
„Układy graficzne GeForce RTX z serii 50 z obliczeniami w 4. PR odblokują ogromną gamę modeli, które można uruchomić na komputerach PC, co wcześniej było dostępne tylko w dużych centrach danych” – powiedział Robin Rombach, dyrektor generalny Black Forest Labs. „Uczynienie FLUX mikrousługą NVIDIA NIM zwiększa tempo wdrażania sztucznej inteligencji i korzystania z niej przez większą liczbę użytkowników, zapewniając jednocześnie niesamowitą wydajność”.
Firma NVIDIA ogłosiła dzisiaj także rodzinę otwartych modeli Llama Nemotron, które zapewniają wysoką dokładność w szerokim zakresie zadań agentowych. Model Llama Nemotron Nano będzie oferowany jako mikrousługa NIM dla komputerów stacjonarnych i stacji roboczych RTX AI i doskonale sprawdza się w agentycznych zadaniach AI, takich jak wykonywanie instrukcji, wywoływanie funkcji, czat, kodowanie i matematyka.
Mikrousługi NIM obejmują najważniejsze komponenty do uruchamiania sztucznej inteligencji na komputerach PC i są zoptymalizowane pod kątem wdrażania na procesorach graficznych NVIDIA — czy to w komputerach stacjonarnych i stacjach roboczych RTX, czy w chmurze.
Programiści i entuzjaści będą mogli gwałtownie pobrać, skonfigurować i uruchomić te mikrousługi NIM na komputerach z systemem Windows 11 i podsystemem Windows dla systemu Linux (WSL).
„Sztuczna inteligencja w szybkim tempie napędza innowacje w komputerach PC z systemem Windows 11, a podsystem Windows dla systemu Linux (WSL) oferuje doskonałe wieloplatformowe środowisko do rozwoju sztucznej inteligencji w systemie Windows 11 wraz z systemem Windows Copilot Runtime” – powiedział Pavan Davuluri, wiceprezes korporacyjny ds. systemu Windows w firmie Microsoftu. „Mikrousługi NVIDIA NIM, zoptymalizowane pod kątem komputerów PC z systemem Windows, dają programistom i entuzjastom gotowe do integracji modeli sztucznej inteligencji z aplikacjami dla systemu Windows, jeszcze bardziej przyspieszając wdrażanie funkcji sztucznej inteligencji wśród użytkowników systemu Windows”.
Mikrousługi NIM działające na komputerach PC RTX AI będą kompatybilne z najlepszymi platformami programistycznymi i agentowymi AI, w tym AI Toolkit dla VSCode, EverythingLLM, ComfyUI, CrewAI, Flowise AI, LangChain, Langflow i LM Studio. Programiści mogą łączyć aplikacje i przepływy pracy zbudowane na tych platformach z modelami AI obsługującymi mikrousługi NIM za pośrednictwem standardowych w branży punktów końcowych, umożliwiając im korzystanie z najnowszej technologii z ujednoliconym interfejsem w chmurze, centrach danych, stacjach roboczych i komputerach PC.
Entuzjaści będą mogli także poznać szereg mikrousług NIM, korzystając z nadchodzącej wersji wersji demonstracyjnej technologii NVIDIA ChatRTX.
Nakładanie twarzy na agentyczną sztuczną inteligencję
Aby zademonstrować, w jaki sposób entuzjaści i programiści mogą wykorzystywać NIM do tworzenia agentów i asystentów AI, NVIDIA zaprezentowała dzisiaj Project R2X, awatar komputera PC z funkcją wizyjną, który może umieszczać informacje w zasięgu ręki użytkownika, pomagać w aplikacjach komputerowych i wideokonferencjach, czytać i podsumowywać dokumenty i nie tylko.
Awatar jest renderowany przy użyciu technologii NVIDIA RTX Neural Faces, nowego generatywnego algorytmu sztucznej inteligencji, który wzmacnia tradycyjną rasteryzację o całkowicie wygenerowane piksele. Następnie twarz jest animowana przez nowy, oparty na dyfuzji model NVIDIA Audio2Face -3D, który poprawia ruch warg i języka. R2X można połączyć z usługami AI w chmurze, takimi jak GPT4o OpenAI i Grok xAI, a także mikrousługami NIM i AI Blueprints, takimi jak moduły pobierania plików PDF lub alternatywne LLM, za pośrednictwem platform programistycznych, takich jak CrewAI, Flowise AI i Langflow. Zarejestruj się, aby otrzymywać aktualizacje Project R2X.
Plany AI pojawią się na PC
Mikrousługi NIM są również dostępne dla użytkowników komputerów PC za pośrednictwem AI Blueprints — referencyjnych przepływów pracy AI, które można uruchamiać lokalnie na komputerach RTX. Dzięki tym planom programiści mogą tworzyć podcasty z dokumentów PDF, generować wspaniałe obrazy oparte na scenach 3D i nie tylko.
Plan podcastu z pliku PDF wyodrębnia tekst, obrazy i tabele z pliku PDF w celu utworzenia skryptu podcastu, który może być edytowany przez użytkowników. Może także wygenerować pełne nagranie audio ze skryptu, korzystając z głosów dostępnych w planie lub na podstawie próbki głosu użytkownika. Ponadto użytkownicy mogą prowadzić rozmowę w czasie rzeczywistym z gospodarzem podcastu AI, aby dowiedzieć się więcej na określone tematy.
W projekcie wykorzystano mikrousługi NIM, takie jak Mistral-Nemo-12B-Instruct do obsługi języka, NVIDIA Riva do zamiany tekstu na mowę i automatycznego rozpoznawania mowy oraz zbiór mikrousług NeMo Retriever do ekstrakcji plików PDF.
Plan AI dla generatywnej AI sterowanej 3D zapewnia artystom lepszą kontrolę nad generowaniem obrazów. Chociaż sztuczna inteligencja może generować niesamowite obrazy na podstawie prostych podpowiedzi tekstowych, kontrolowanie kompozycji obrazu dzięki samych słów może być wyzwaniem. Dzięki temu planowi twórcy mogą używać prostych obiektów 3D ułożonych w rendererze 3D, takim jak Blender, do kierowania generowaniem obrazów AI. Artysta może manualnie tworzyć zasoby 3D lub generować je dzięki sztucznej inteligencji, umieszczać je w scenie i ustawiać kamerę w rzutni 3D. Następnie gotowy proces pracy obsługiwany przez mikrousługę FLUX NIM wykorzysta bieżącą kompozycję do wygenerowania wysokiej jakości obrazów pasujących do sceny 3D.
Mikrousługi NVIDIA NIM i plany AI będą dostępne od lutego wraz z początkową obsługą sprzętową profesjonalnych procesorów graficznych GeForce RTX z serii 50, GeForce RTX 4090 i 4080 oraz NVIDIA RTX 6000 i 5000. W przyszłości obsługiwane będą dodatkowe procesory graficzne.
Komputery PC RTX AI obsługujące NIM będą dostępne w sklepach Acer, ASUS, Dell, GIGABYTE, HP, Lenovo, MSI, Razer i Samsung, a także u lokalnych producentów systemów: Corsair, Falcon Northwest, LDLC, Maingear, Mifcon, Origin PC, PCS i Scan .
Dowiedz się więcej o tym, jak mikrousługi NIM, plany AI i komputery PC RTX AI gotowe do obsługi NIM przyspieszają generatywną sztuczną inteligencję, dołączając do firmy NVIDIA na targach CES.
