NorthPole – IBM prezentuje nowy chip do przetwarzania AI, który bije prędkością obecne chipy aż… dwudziestokrotnie!

bithub.pl 1 rok temu

IBM zaprezentował nowy prototypowy chipa sztucznej inteligencji (AI) o nazwie NorthPole. Ma być szybszy i znacznie bardziej energooszczędny niż jakikolwiek w tej chwili dostępny chip. Nowy chip ma zużywać aż 25-krotnie mniej zużywać energii, a także być 22 razy szybszy niż inne chipy. Według pracy zespołu badawczego IBM: „NorthPole przewyższa wszystkie powszechne projekty, choćby te wykorzystujące bardziej zaawansowane procesy technologiczne.”

Publishing this week in @ScienceMagazine, IBM Research's newest prototype AI chip, NorthPole, could help us move toward more energy-efficient AI. Learn more: https://t.co/qyKIUGg5ld pic.twitter.com/eFklLNSqkW

— IBM Research (@IBMResearch) October 19, 2023

W swojej publikacji w czasopiśmie Science zespół opisuje pomysły, które przyświecały opracowaniu chipu, jego działanie i wyniki testów wydajności. Głos zabrali Subramanian Iyer i Vwani Roychowdhury, obaj z University of California w Los Angeles. W miarę jak aplikacje oparte na AI stają się narzędziami powszechnie używanymi zarówno przez profesjonalistów, jak i amatorów, naukowcy przez cały czas pracują nad ich doskonaleniem. Jednym ze sposobów na osiągnięcie tego celu jest, jak zauważają Iyer i Roychowdhury, przejście do systemu komputerowego na „krawędzi” (ang. edge), w którym dane są fizycznie bliżej aplikacji AI, które z nich korzystają.

Czy IBM ominie wąskie gardło von Neumanna?

Jednym z głównych problemów w poprawie przetwarzania AI jest tzw. „wąskie gardło von Neumanna”. W w tej chwili dostępnych architekturach chipy AI mają zwykle szybsze zdolności przetwarzania niż pamięć, którą potrzebują do uruchamiania procesów. W rezultacie pojawia się opóźnienie, gdy informacje są przesyłane między jednostką przetwarzającą a pamięcią RAM. Dotyczy to zwłaszcza „krawędzi”, gdzie chipy i dane są przechowywane razem. Usunięcie tego wąskiego gardła od dawna jest uważane przez wielu ekspertów za klucz do uruchamiania potężnych sieci neuronowych na różnych urządzeniach.

Wygląd chipa NorthPole. Źródło: newscientist.com

Według IBM Research, nowy prototypowy chip zbudowany w laboratorium firmy w Alamaden w Kalifornii omija wąskie gardło von Neumanna. Integruje on składnik pamięci na samym chipie przetwarzającym.

Zaprezentowane wyniki sprzętu NorthPole wskazują, iż może on wykonywać się wyjątkowo dobrze w związanych z nim zadaniach. Mowa o zadaniach takich jak autonomiczna chirurgia, obsługa samochodów i innych pojazdów bez kierowcy oraz liczne projekty z zakresu robotyki.

Idź do oryginalnego materiału