Dyrektor generalny Nvidii widzi zmianę centrów danych w „fabryki generowania sztucznej inteligencji”

cyberfeed.pl 2 miesięcy temu


Działalność Nvidii w zakresie centrów danych odnotowała wzrost o 409% w ciągu jednego roku. Dyrektor generalny firmy, Jensen Huang, sprowadza to do tego, co uważa za: zmianę sposobu obsługi centrów danych.

Podczas ogłoszenia wyników za kwartał zakończony 28 stycznia 2024 r. Huang mówił o przejściu w centrach danych z obliczeń ogólnego przeznaczenia na przetwarzanie przyspieszone. Według transkrypcji rozmowa o zarobkach opublikowana w serwisie Seeking AlphaHuang uważa, iż ​​komputery ogólnego przeznaczenia tracą moc.

„Można to rozpoznać po dostawcach CSP [cloud service providers] oraz wiele centrów danych, w tym nasze własne, wydłużenie amortyzacji z czterech do sześciu lat,” powiedział. „Po prostu nie ma powodu, aby instalować większą liczbę procesorów, skoro nie można zasadniczo i radykalnie zwiększyć przepustowości, tak jak kiedyś”.

Huang powiedział, iż nie jest już możliwe utrzymanie zwiększonej przepustowości przy użyciu wyłącznie obliczeń ogólnego przeznaczenia. Twierdził, iż przyspieszone przetwarzanie danych umożliwia operatorom centrów danych poprawę efektywności energetycznej i kosztów przetwarzania danych 20 do 1.

Huang powiedział, iż generatywna sztuczna inteligencja (GenAI) to: nowa aplikacja w centrum danych. „Umożliwia nowy sposób tworzenia oprogramowania. Tworzone są nowe rodzaje oprogramowania. To nowy sposób liczenia. Nie da się stworzyć generatywnej sztucznej inteligencji na tradycyjnych komputerach ogólnego przeznaczenia. Trzeba to przyspieszyć.

„Po raz pierwszy centrum danych nie służy tylko do przetwarzania i przechowywania danych, ale także do obsługi pracowników firmy. Mamy teraz nowy typ centrum danych zajmujący się generowaniem sztucznej inteligencji – fabrykę generowania sztucznej inteligencji”.

„Mamy teraz nowy typ centrum danych zajmujący się generowaniem sztucznej inteligencji – fabrykę generowania sztucznej inteligencji”

Jensena Huanga z Nvidii

Według Huanga zapotrzebowanie na przyspieszone przetwarzanie danych rośnie w różnych sektorach przemysłu. „Nasza platforma dla centrów danych napędzana jest przez coraz bardziej zróżnicowane czynniki – zapotrzebowanie na przetwarzanie danych, szkolenia i wnioskowanie ze strony dużych dostawców usług w chmurze i dostawców specjalizujących się w procesorach graficznych, a także producentów systemu dla przedsiębiorstw i dostawców Internetu konsumenckiego. Branże pionowe – na czele z motoryzacją, usługami finansowymi i opieką zdrowotną – osiągnęły w tej chwili wartość wielu miliardów dolarów.

Wśród możliwości rozwoju firmy znajduje się Nvidia AI Enterprise, platforma programowa do przyspieszonych obliczeń z wykorzystaniem procesorów graficznych (GPU). Według Huanga kosztuje on 4500 dolarów na procesor graficzny rocznie i przewiduje się, iż będzie generował 1 miliard dolarów zysków rocznie.

„Przypuszczam, iż każde przedsiębiorstwo na świecie, każda firma zajmująca się oprogramowaniem, która wdraża oprogramowanie we wszystkich chmurach, chmurach prywatnych i lokalnie, będzie działać na platformie Nvidia AI Enterprise” – powiedział.

Huang twierdził, iż przedsiębiorstwom brakuje wystarczająco dużych zespołów inżynieryjnych, aby były w stanie utrzymywać i optymalizować stos systemu do pracy w chmurach publicznych, prywatnych i lokalnych centrach danych. „Zajmiemy się zarządzaniem, optymalizacją, instalowaniem poprawek, dostrajaniem i optymalizacją bazy zainstalowanej dla wszystkich stosów systemu firmy. I konteneryzujemy je w naszym stosie. Nvidia AI Enterprise jest jak system operacyjny dla sztucznej inteligencji” – dodał.

Z raportu za czwarty kwartał wynika, iż ​​Nvidia zwiększyła swoją działalność o 22% w jednym kwartale do 22 miliardów dolarów, co stanowi wzrost o 265% w porównaniu z rokiem poprzednim. W roku finansowym 2024 Nvidia odnotowała przychody w wysokości 60,9 miliarda dolarów, co oznacza wzrost o 126%.

Komentując wyniki kwartalne, dyrektor finansowa Nvidii Colette Kress stwierdziła, iż ​​409% wzrost wydajności jej działalności związanej z centrami danych wynikał z większej liczby dostaw platformy obliczeniowej GPU Nvidia Hopper, która służy do uczenia i wnioskowania dużych modeli językowych, rekomendacja silniki i aplikacje GenAI. InfiniBand, szybkie łącze wzajemne, również przyczynił się do wzrostu w branży centrów danych.

„W czwartym kwartale duzi dostawcy rozwiązań chmurowych reprezentowali ponad połowę naszych przychodów z centrów danych, obsługując zarówno obciążenia wewnętrzne, jak i klientów zewnętrznych” – stwierdziła w oświadczeniu. „Duży popyt był napędzany oprogramowaniem dla przedsiębiorstw i konsumenckimi aplikacjami internetowymi, a także wieloma branżami, w tym motoryzacją, usługami finansowymi i opieką zdrowotną”.

Ze względu na ograniczenia eksportowe Stanów Zjednoczonych sprzedaż procesorów graficznych do centrów danych w Chinach „znacznie spadła” – dodał Kress.



Source link

Idź do oryginalnego materiału