CES, największe targi elektroniki użytkowej na świecie, to doskonała okazja dla producentów, by zaprezentować nowy sprzęt również dla fanów AI. Nowe karty graficzne, procesory a choćby „biurkowe superkomputery AI” zaprezentowały więc Nvidia, AMD, Qualcomm czy Intel.
Większość z nas oczywiście korzysta z AI przede wszystkim przez różne chatboty – ChatGPT od OpenAI, Copilota od Microsoftu czy Gemini od Google. Jednak niektórzy chcieliby się pobawić w sposób nieco bardziej zaawansowany. Na przykład dostrajając otwarty model czy podłączając go pod własne dane przy pomocy tak zwanego RAG-a. Takim osobom na pewno przyda się nowy sprzęt zaprezentowany na CES 2025.
Nowe karty od Nvidii
Najbardziej tradycyjnym sprzętem, używanym do obliczeń AI są oczywiście karty graficzne, przede wszystkim Nvidii. Te karty wykorzystywano przy budowie głębokich sieci neuronowych, na których oparta jest generatywna sztuczna inteligencja.
Nvidia, jak się szeroko spodziewano, zaprezentowała na Consumer Electronics Show (CES) nowe karty graficzne z serii RTX 50. Są one oparte na architekturze Blackwell, tej samej, która jest używana w GB200, najnowszych układach AI dla centrów danych.
Najpotężniejsza z nowych kart, RTX 5090, dysponuje 32 GB pamięci, a więc o 1/3 więcej niż jej poprzednik, RTX 4090. Z niemal 22 tysiącami rdzeni CUDA jej moc obliczeń AI to imponujące 3.352 TOPS (bilionów operacji na sekundę). Jej poprzednik mógł się pochwalić tylko nieco ponad 1.300 TOPS.
Przy takiej mocy obliczeniowej możemy nie tylko korzystać z AI, ale wręcz ją – pewnie w ograniczonym zakresie – budować. Nie jest to jednak tani sprzęt – cena referencyjna to 1.999 dolarów, w Polsce prawdopodobnie przełoży się to na dobrze ponad 11,000 zł.
Dla fanów gier nowa karta ma też znaczne zalety – przy jej pomocy Cyberpunka będzie można grać przy prędkości odświeżania ekranu powyżej 200 fps. Oczywiście jeżeli ktoś ma wystarczająco dobry monitor…
RTX 5090 powinien być dostępny pod koniec stycznia.
Procesory AI od AMD, Qualcomma, Intela
Oczywiście nie wszyscy są tak ambitni, by budować lub dostrajać modele AI na własnych komputerach. Niektórym wystarczy po prostu korzystanie z modeli dostarczonych przez innych. Tutaj dobrym rozwiązaniem są procesory z NPU, a więc specjalnym układem do obliczeń na sieciach neuronowych.
Właśnie takimi procesorami są Ryzeny AI MAX od AMD. Ich moc obliczeniowa na poziomie 50 TOPS nie budzi szczególnego podziwu, zwłaszcza w porównaniu z potworem Nvidii, ale powinno wystarczyć do wygodnego korzystania z mniejszych modeli AI. Nowe modele są mocniejsze od dostępnych już od pewnego czasu Ryzenów AI 9.
Z kolei Qualcomm poszedł w drugą stronę – nie mocniejszych, tylko tańszych procesorów. Zaprezentowany na CES procesor Snapdragon X to młodszy brat będących już na rynku Snapdragon X Elite czy Snapdragon X Plus. Będzie miał na pokładzie 45 TOPS i będzie na tyle tani, iż wyposażone w niego komputery będą kosztować na rynku amerykańskim 600 dolarów.
No i w końcu mamy premiery od Intela – procesory Intel Core Ultra 200 w różnych odsłonach. Niestety, choć procesory te wyposażono w NPU, to są zbyt słabe, by spełnić wymagania Copilot+ PC. Więc moc obliczeniowa tych NPU jest poniżej 40 TOPS. Mamy więc kolejny zawód ze strony Intela.
Sprzęt dla prawdziwych fanów AI. Biurkowy osobisty superkomputer
A na koniec mała gratka dla fanów korzystania z modeli AI, i to niemałych, na własnym sprzęcie.
Nvidia zaprezentowała Projekt DIGITS – małego komputerka o potężnej mocy. To maleństwo wielkości dość grubej książki będzie miało w środku procesor NVIDIA GB10 Grace Blackwell Superchip o mocy 1000 TOPS. Niewystarczająco do budowania naprawdę dużych modeli AI, ale wystarczająco do „prototypowania, dostrajania i korzystania z modeli AI.”
Komputerek ma na pokładzie 128 GB RAM i, jak zapewnia Nvidia, wystarcza do uruchomienia modeli z 200 miliardami parametrów. Dwa takie komputerki połączone specjalnym łączem wystarczą, by korzystać z największej Llamy z 405 mld parametrów. To podstawowa przewaga DIGIS nad kartą RTX 5090. Komputerek będzie w stanie prawdopodobnie wykorzystać do obliczeń AI niemal całą dostępną mu pamięć, podczas gdy karta graficzna może efektywnie korzystać tylko z własnej pamięci. A ta jest 4-krotnie niższa niż w przypadku „osobistego superkomputera.”
To maleństwo niestety nie będzie tanie – Nvidia zapowiada, iż cena będzie wynosić 2.999 dolarów. Więc jeżeli trafi do Polski, to pewnie będzie kosztować dobrze ponad 15.000 zł, pewnie bliżej 20.000 zł. Takie niestety są realia przeliczania cen referencyjnych w dolarach na polskie złote.
Źródło grafiki: Nvidia
