Firma MemryX wysłuchała klientów, którzy często byli sfrustrowani innymi rozwiązaniami Edge AI, zanim wprowadziła na rynek rewolucyjne rozwiązanie MX3. najważniejsze zalety rozwiązania MemryX to:
- Wysoka liczba klatek na sekundę — przepływ danych MemryX i architektura obliczeniowa „w pamięci” doskonale sprawdzają się w trybie potokowym. Na przykład pojedyncza karta MemryX M.2 o niskim poborze mocy może w sposób ciągły obsługiwać jeden lub więcej modeli AI na 10-sekundowych przychodzących strumieniach z kamer, co stanowi rewolucję w przypadku aplikacji brzegowych, takich jak systemy zarządzania wideo.
- Wysoka dokładność modelu dzięki jednego kliknięcia — zautomatyzowane narzędzia MemryX mogą skompilować i wykonać tysiące modeli AI z dużą dokładnością dzięki jednego kliknięcia. MX3 wykorzystuje aktywacje zmiennoprzecinkowe, a proces kompilacji utrzymuje modele AI zgodnie z wyszkoleniem. Oznacza to, iż klienci korzystający z MX3 nie muszą ponownie szkolić modeli ani używać obrazów pilotażowych podczas kwantyzacji mapy funkcji w celu zwiększenia dokładności lub przybliżenia operatorów nieobsługiwanych w krzemie.
- Brak zoo modelu i ukrytych zmian w modelu — MemryX nie używa ani nie wymaga zoo modelu, w którym modele klientów są modyfikowane w celu dopasowania do docelowego sprzętu. Zamiast tego oryginalne modele pozostają w pełni nienaruszone po skompilowaniu i uruchomieniu na MX3. Oczywiście klient zawsze ma możliwość przycięcia, skompresowania lub destylacji danego modelu w celu uzyskania pożądanych kompromisów w zakresie projektu. Jednak MemryX nie wymaga zmiany modelu w celu wydajnego i wysokiego wykorzystania sprzętu.
- Zautomatyzowane przetwarzanie wstępne/końcowe — chociaż do obciążeń AI używany jest procesor AI, wiele modeli zawiera kod przeznaczony do przetwarzania wstępnego i końcowego procesora. Programiści muszą następnie samodzielnie opracować kod przed i po przetwarzaniu. Zamiast tego MemryX automatycznie identyfikuje i pakuje ten kod, pomagając programiście przyspieszyć wdrażanie aplikacji dzięki automatycznego kadrowania.
- Skalowalność — można zastosować pojedynczy układ MX3 lub połączyć go z dodatkowymi układami MX3, a wszystkie płynnie działają jako jedna jednostka logiczna podłączona do hosta. Oznacza to, iż konfiguracje oparte na MX3 można skalować od pojedynczego chipa obsługującego sztuczną inteligencję w zaawansowanej inteligentnej kamerze do 4-chipowego komputera Edge PC, aż do 8- lub choćby 16-chipowej aplikacji Edge Server, a wszystko to przy użyciu dokładnie tego samego systemu i interfejsu hosta bez dodawania jakichkolwiek dodatkowych elementów. sprzętu, takiego jak przełączniki PCIe.
- Niska moc – każdy MX3 zużywa 0,5–2,0 W, w zależności od wymagań modelu AI i ustawień systemu. Dzięki temu MX3 może oferować wysoką wydajność obliczeniową AI choćby w urządzeniach bez wentylatorów do zastosowań takich jak komputery przemysłowe. Cały 4-chipowy moduł M.2 wykorzystuje mniej niż 1/10 mocy wiodących procesorów graficznych głównego nurtu, zapewniając jednocześnie wyższą wydajność Edge AI.
- Szerokie wsparcie — MemryX obsługuje szeroki zestaw platform x86, ARM i RISC-V od razu po wyjęciu z pudełka, korzystając z wielu systemów operacyjnych.
MemryX od miesięcy pobiera próbki od różnych klientów. Aplikacje klientów będące w fazie rozwoju obejmują handel detaliczny, bezpieczeństwo, rolnictwo, motoryzację, robotykę i nie tylko. Dzięki dużej łatwości obsługi i skalowalności, a także przemysłowym specyfikacjom temperaturowym, MemryX może stać się najlepszym wyborem dla klientów poszukujących przyspieszonego przetwarzania Edge AI.
„MX3 umożliwia firmie ASUS dostarczanie zaawansowanych analiz AI na krawędzi przy zmniejszonych wymaganiach obliczeniowych, umożliwiając naszym klientom wnioskowanie AI w czasie rzeczywistym poprzez proste dodanie MX3 do ich istniejących urządzeń IPC” – powiedział Jessy Li, dyrektor rozwiązań ASUS IoT.
„DYNICS zintegrował moduł MemryX MX3 z naszą platformą opartą na sztucznej inteligencji, a wyniki są fenomenalne. MX3 zapewnia moc obliczeniową, której potrzebujemy do uruchamiania naszych najbardziej wymagających modeli sztucznej inteligencji w czasie rzeczywistym przy minimalnym zużyciu energii, umożliwiając nam wdrażanie sztucznej inteligencji na dużą skalę, rozwiązując konkretne możliwości przemysłowe” – powiedział Ed Gatt, dyrektor generalny DYNICS.
Obecnie moduły M.2 oparte na MX3 można kupić za pośrednictwem WPG Americas. W dalszej części czwartego kwartału rozwiązania MemryX będą dostarczać dodatkowi dystrybutorzy w Ameryce Północnej i za granicą. Ponadto w czwartym kwartale 2024 r. firma MemryX udostępni publiczne centrum programistów z oprogramowaniem open source prezentującym setki modeli i aplikacji końcowych.
