Huawei Ascend 910b Accelerators Power Cloud Infrastruktura do wnioskowania Deepseek R1

cyberfeed.pl 4 godzin temu


Kiedy High-Flyer, fundusz hedgingowy za Deepseek, zadebiutował swój flagowy model, Deepseek R1, świat technologii spadł. Nikt nie spodziewał się chińskich firm AI nie może wyprodukować wysokiej jakości modelu AI, który rywalizuje najlepiej od Openai i antropika. Chociaż krążą plotki, iż Deepseek ma dostęp do 50 000 GPU „Hopper” NVIDIA, w tym H100, H800 i H20, wydaje się, iż Huawei jest gotowy zasilać chińską infrastrukturę AI z akceleratorami AI. Według South China Morning Post, chińscy dostawcy chmury, tacy jak SiliconFlow.Cn oferują modele AI Deepseek do wnioskowania o akceleratorach Huawei Ascend 910b. Za cenę tylko jednego juana za milion tokenów wejściowych i czterech juanów za milion tokenów produkcyjnych, ten model ekonomiczny hostingu sztucznej inteligencji zasadniczo podcinał konkurencję, tak jak amerykańskie dostawcy chmur, które oferują Deepseek R1 dla 7 USD za milion tokenów.

Działa nie tylko na Huawei Ascend 910b tańszy dla dostawców chmur, ale także my Zgłoszone iż jest tańszy dla samego Deepseek, który obsługuje aplikację czatu na Huawei Ascend 910C. Korzystanie z krajowych akceleratorów obniża całkowity koszt własności, a oszczędności są przekazywane użytkownikom. jeżeli zachodnie klienci wolą, aby wnioskować, iż zachodnie firmy będą musiały zapłacić wysokszą cenę, często wspieraną wysokimi cenami GPU, takich jak NVIDIA H100, B100 i AMD Instynct MI300X.



Source link

Idź do oryginalnego materiału