Odkryto sposób na uruchomienie modelu sztucznej inteligencji DeepSeek 671B bez drogich procesorów graficznych

notebookcheck.pl 1 tydzień temu

Inżynier Hugging Face, Matthew Carrigan, ujawnił niedawno w serwisie X metodę lokalnego uruchamiania zaawansowanego modelu R1 DeepSeek z 8-bitową kwantyzacją, eliminując potrzebę stosowania drogich procesorów graficznych, przy koszcie wynoszącym 6000 USD. Klucz? Posiadanie dużej ilości pamięci w przeciwieństwie do ogromnych rezerw mocy obliczeniowej.

Idź do oryginalnego materiału