Firma Akamai Technologies zaprezentowała nową platformę chmurową dla przetwarzania inferencyjnego opartego na sprzęcie NVIDIA. Rozwiązanie łączy infrastrukturę GPU Blackwell z globalną siecią brzegową Akamai, umożliwiając realizację zadań AI bliżej użytkownika.
Akamai i NVIDIA przyspieszają inferencję AI
Nowa platforma Akamai Inference Cloud to kolejny krok w ewolucji oferty firmy, która od lat kojarzona była głównie z siecią dostarczania treści (CDN). Teraz Akamai stawia na sztuczną inteligencję, wykorzystując swoje doświadczenie w budowie infrastruktury rozproszonej, aby obsługiwać najbardziej wymagające obciążenia inferencyjne.
W ramach projektu wdrożono serwery NVIDIA RTX PRO Server wyposażone w układy RTX PRO 6000 Blackwell Server Edition, jednostki przetwarzania danych BlueField-3 DPU oraz oprogramowanie NVIDIA AI Enterprise. Całość działa w oparciu o ponad 4 200 lokalizacji Akamai na całym świecie, co czyni tę sieć jednym z najbardziej rozproszonych środowisk obliczeniowych dla AI.
Według dr. Toma Leightona, współzałożyciela i prezesa Akamai, najbliższe lata przyniosą gwałtowny wzrost zapotrzebowania na lokalną inferencję, czyli wykonywanie wnioskowania AI w pobliżu użytkownika.
„Kolejna fala rozwoju sztucznej inteligencji wymaga tej samej bliskości, która pozwoliła internetowi stać się globalną platformą” – podkreślił.
Inferencja bliżej użytkownika
Kluczowym elementem nowej oferty jest przesunięcie mocy obliczeniowej AI z centralnych centrów danych na brzeg sieci, co pozwala skrócić opóźnienia i zwiększyć bezpieczeństwo danych. W praktyce oznacza to, iż modele generatywne czy systemy predykcyjne mogą działać szybciej, reagując niemal w czasie rzeczywistym na potrzeby użytkowników.
Jak zauważył Jensen Huang, prezes i założyciel NVIDIA, inferencja stała się najbardziej wymagającą fazą przetwarzania AI.
„Razem z Akamai przenosimy wnioskowanie bliżej użytkowników na całym świecie, dostarczając szybszą, bardziej skalowalną sztuczną inteligencję i otwierając drogę dla nowej generacji inteligentnych aplikacji” – powiedział.
Akamai rozpoczęło już wdrażanie platformy w 20 lokalizacjach i zapowiada szybkie rozszerzenie skali. Firma rozwija także portfolio usług chmurowych – w lutym 2025 uruchomiła zarządzaną usługę kontenerową, a w ostatnim kwartale jej segment cloudowy odnotował przychody na poziomie 71 mln USD, co oznacza wzrost o 30% rok do roku.
