„Dzięki naszej technologii chipów fotonicznych, która jest teraz dostępna w standardowym interfejsie PCIe, przenosimy niesamowitą moc fotoniki bezpośrednio do rzeczywistych aplikacji. Dla nas to nie tylko procesor — to oświadczenie intencji: zrównoważony rozwój i wydajność mogą idą ramię w ramię” – powiedział dr Michael Förtsch, dyrektor generalny Q.ANT. „Po raz pierwszy programiści mogą tworzyć aplikacje AI i badać możliwości obliczeń fotonicznych, szczególnie w przypadku złożonych, nieliniowych obliczeń. Na przykład eksperci obliczyli, iż jedno zapytanie GPT-4 zużywa w tej chwili 10 razy więcej energii elektrycznej niż zwykłe żądanie wyszukiwania w Internecie. Nasze fotoniczne chipy obliczeniowe oferują potencjał zmniejszenia zużycia energii w przypadku tego zapytania 30-krotnie.”
Przełom Q.ANT opiera się na zastrzeżonej platformie LENA, która zawiera cienkowarstwowy niobian litu (TFLN) na chipach izolatora. Firma Q.ANT rozwija ten materiał fotoniczny od chwili swojego powstania w 2018 roku. Platforma ta umożliwia precyzyjną kontrolę światła na poziomie chipa. Kontrolując cały łańcuch wartości, od płytki po gotowe procesory i wykorzystując swoją głęboką wiedzę na temat światła, Q.ANT osiąga gęstość matematyczną i algorytmiczną przewyższającą konwencjonalną technologię CMOS. Na przykład transformatę Fouriera, która w tradycyjnych obliczeniach wymaga milionów tranzystorów, można wykonać dzięki pojedynczego elementu optycznego.
„Nowe podejście Q.ANT do przetwarzania fotonicznego to przełomowy krok w kierunku zaspokojenia rosnącego zapotrzebowania na energię w erze sztucznej inteligencji” – powiedział dr Eric Mounier. Główny analityk ds. fotoniki i wykrywania w Yole Group. „Ten przełom jest możliwy dzięki zastosowaniu optymalnych materiałów w obwodach optycznych, które firma Q.ANT opracowywała przez ostatnie kilka lat. Ta nowa generacja procesorów wreszcie zapewnia dostęp do doskonałych operacji matematycznych, które były zbyt energochłonne w przypadku tradycyjnych procesorów graficznych. Oczekuje się, iż pierwszy wpływ będzie dotyczył wnioskowania AI i wyników szkoleń, torując drogę wysokowydajnym i zrównoważonym informacjom opartym na sztucznej inteligencji”.
Q.ANT NPU może zmniejszyć wymagania obliczeniowe w zastosowaniach uczenia maszynowego w zakresie wizji komputerowej lub uczenia i wnioskowania dużych modeli językowych (LLM):
- Testy systemu demonstracyjnego Q.ANT NPU w chmurze ze zbiorami danych MNIST wykazały, iż natywne podejście obliczeniowe Q.ANT zapewnia dokładność porównywalną z sieciami liniowymi o niższym zużyciu energii.
- Symulacje sieci Kolmogorov-Arnold-Networks (KAN) wykazały, iż wymaganych jest o 43% mniej parametrów, a liczbę operacji można zmniejszyć o 46%, co potwierdza, iż jest to skuteczniejszy wybór w przypadku wnioskowania AI.
- Dalsze testy i symulacje rozpoznawania obrazów pokazują, iż Q.ANT NPU może trenować znacznie szybciej i osiągać dokładne rozpoznawanie przy zaledwie 0,1 miliona parametrów i 0,2 miliona operacji. Konwencjonalne podejście nie pozwala na osiągnięcie akceptowalnych wyników choćby przy 5,1 milionach parametrów i 10 milionach operacji.
Ponadto umożliwia szybsze rozwiązywanie równań różniczkowych cząstkowych w symulacjach fizycznych, upraszcza analizę szeregów czasowych i poprawia efektywność rozwiązywania problemów grafowych. W przeciwieństwie do standardowej technologii CMOS, Q.ANT NPU przetwarza dane dzięki światła, umożliwiając bardziej energooszczędne operacje matematyczne. Podczas gdy konwencjonalny mnożnik CMOS wymaga 1200 tranzystorów do wykonania prostego 8-bitowego mnożenia, Q.ANT NPU osiąga to dzięki pojedynczego elementu optycznego.
Dostępność i opakowanie
Q.ANT NPU można zamówić już teraz z dostawą w lutym 2025 r. Q.ANT NPU jest dostępny jako gotowy serwer przetwarzania natywnego (NPS), który jest w pełni kompatybilny z tradycyjnym środowiskiem serwerowym i można go zintegrować z dowolnym HPC lub centrum danych . Zapewniając początkującym dostęp do swojej technologii fotonicznej, Q.ANT ma na celu przyspieszenie przełomów w informatyce i odblokowanie nowych granic w sztucznej inteligencji i badaniach naukowych w dziedzinie, która w ciągu zaledwie kilku lat umożliwi znaczny wzrost wydajności i ogromny potencjał oszczędzania energii ‘ czas.
Integracja z istniejącymi stosami systemu AI
Intuicyjny interfejs Q.ANT Native Computing Unit, znany jako Q.ANT Toolkit, bezproblemowo integruje się z istniejącymi stosami systemu AI i umożliwia programistom działanie na różnych poziomach, od mnożenia po zoptymalizowane operacje w sieci neuronowej. Zawiera także obszerny zbiór przykładowych zastosowań.
