Arm and Partners opracowuje procesor AI: Neoverse V3 CSS wykonany w procesie technologicznym 2 nm Samsung GAA FET

Wczoraj firma Arm ogłosiła znaczny postęp w swojej inicjatywie Total Design. Program rozpoczęty rok temu ma na celu przyspieszenie rozwoju niestandardowych krzemów dla centrów danych poprzez wspieranie współpracy między partnerami branżowymi. Ekosystem powiększył się w tej chwili i obejmuje prawie 30 uczestniczących firm, a ostatnio dołączyły do ​​nich takie firmy, jak Alcor Micro, Egis, PUF Security i SEMIFIVE. Godnym uwagi osiągnięciem jest partnerstwo pomiędzy Arm, Samsung Foundry, ADTechnology i Rebellions w celu stworzenia platformy chipletów dla procesorów AI. Celem tej współpracy jest dostarczenie rozwiązania dla obciążeń w chmurze, HPC i AI/ML, łączącego akcelerator AI firmy Rebellions z chipletem obliczeniowym ADTechnology, zaimplementowanym przy użyciu technologii FET 2 nm Gate-All-Around (GAA) firmy Samsung Foundry. Oczekuje się, iż platforma zapewni znaczny wzrost wydajności w przypadku obciążeń związanych z generatywną sztuczną inteligencją, a szacunki wskazują na 2-3-krotną poprawę w porównaniu ze standardowym projektem procesora dla LLM, takich jak Llama 3.1 z 405 miliardami parametrów.

Podejście Arma podkreśla znaczenie obliczeń procesora we wspieraniu pełnego stosu sztucznej inteligencji, w tym wstępnego przetwarzania danych, orkiestracji i zaawansowanych technik, takich jak generowanie wspomagane odzyskiwaniem (RAG). Podsystemy obliczeniowe (CSS) firmy zaprojektowano z myślą o spełnieniu tych wymagań, zapewniając partnerom podstawę do tworzenia różnorodnych rozwiązań w postaci chipletów. Kilka firm, w tym Alcor Micro i Alphawave, ogłosiło już plany opracowania chipletów opartych na CSS do różnych zastosowań związanych ze sztuczną inteligencją i obliczeniami o wysokiej wydajności. Inicjatywa koncentruje się również na gotowości oprogramowania, zapewniając kompatybilność głównych platform i systemów operacyjnych z systemami opartymi na architekturze ARM. Niedawne wysiłki obejmują wprowadzenie technologii Arm Kleidi, która optymalizuje wnioskowanie oparte na procesorze dla projektów typu open source, takich jak PyTorch i Llama.cpp. Szczególnie, jak twierdzi Googlewiększość obciążeń AI jest przenoszona na procesory, dlatego tworzenie najbardziej wydajnych i wydajnych procesorów dla AI ma ogromny sens.