Przy pełnej specyfikacji, superkomputer A3 jest w stanie osiągnąć do 26 eksaflopsów wydajności AI. System nie znajduje się w jednym centrum danych, ale jest połączeniem zasobów wielu ośrodków.
Pojedyncza maszyna wirtualna A3 wyposażona jest w osiem układów graficznych H100, zapewniających przepustowość 3,6 TB/s w układzie dwusekcyjnym dzięki Nvidia NVSwitch i NVLink 4.0, procesory Intel Xeon Scalable 4. generacji oraz 2 TB pamięci hosta dzięki modułom DDR5 DIMM 4800 MHz.
Jest to również pierwsza instancja wykorzystująca niestandardową jednostkę Intel Infrastructure Processing Unit (IPU) Google’a, która według firmy pozwala na 10-krotne zwiększenie przepustowości sieci w stosunku do maszyn wirtualnych A2.
“Maszyny wirtualne A3 w chmurze Google Cloud, napędzane przez układy graficzne nowej generacji Nvidia H100, przyspieszą szkolenie i obsługę generatywnych aplikacji AI”, powiedział Ian Buck, wiceprezes działu hiperskali i obliczeń o wysokiej wydajności w firmie Nvidia.
“Po uruchomieniu niedawno przez Google Cloud instancji G2, jesteśmy dumni, iż możemy kontynuować naszą współpracę z Google Cloud, aby pomóc przekształcać przedsiębiorstwa na całym świecie dzięki specjalnie zbudowanej infrastruktury AI”.
Google oświadczyło, iż instancje zostały zaprojektowane z myślą o treningu AI. “Biorąc pod uwagę wymagania tych obciążeń roboczych, podejście typu “one-size-fits-all” nie jest wystarczającym rozwiązaniem – potrzebujesz infrastruktury, która jest specjalnie zbudowana dla AI” – powiedzieli Roy Kim i Chris Kleban z Google Cloud we wpisie na blogu.
Firma oferuje również własne układy TPU w chmurze, jednakże to układy graficzne firmy Nvidia zdobyły większość rynku generatywnej sztucznej inteligencji.
