Centra danych na orbicie to temat, który pobudza wyobraźnię największych postaci w świecie technologii. Mówi o nich założyciel Amazona Jeff Bezos, mówi również Elon Musk. Na razie startup Starcloud umieścił na orbicie… jedną kartę Nvidii i chwali się jej osiągnięciami. Ale pytania pozostają – i co do osiągnięć startupu i co do przyszłości centrów danych w przestrzeni kosmicznej. Przyjrzyjmy się im.
Sztuczna inteligencja stoi przed potężnym wyzwaniem – wymaga olbrzymich ilości mocy obliczeniowych, tymczasem budowa centrów danych o odpowiednich mocach wymaga spełnienia długiej listy warunków – trzeba znaleźć odpowiednią ( i to dużą) działkę ziemi, znaleźć spółkę energetyczną, która dostarczy do takiego centum odpowiednią ilość elektryczności, no i jeszcze trzeba dla takiego centrum zapewnić duże ilości wody do chłodzenia – tego typu centra danych zużywają setki milionów megawatów lub wręcz gigawaty energii i tyle też ciepła muszą odprowadzić, co pochłania olbrzymie ilości wody.
To wszystko rodzi spore problemy – zapotrzebowanie centrów danych zwłaszcza na energię elektryczną gwałtownie rośnie, tymczasem cykl inwestycyjny spółek energetycznych dla bloków energetycznych jest o wiele dłuższy niż cykl inwestycyjny centrum danych. W USA już istnieją centra danych, które zostały zbudowane, ale nie działają – nie udało się ich podłączyć do sieci energetycznej.
No to może centra danych na orbicie?
Stąd pomysł, by umieścić centra danych na orbicie i zasilać je panelami słonecznymi. Czemu miałoby być to lepsze niż centra na ziemi? Podstawowe zalety są dwie. Pierwsza jest taka, iż atmosfera ziemska odfiltrowuje znaczną część promieniowania słonecznego, co powoduje, iż na powierzchnię ziemi pada tylko niewielka część tego, co wchodzi w atmosferę. Tymczasem na orbicie nie ma tego problemu – promieniowanie słoneczne dochodzi tam w pełnej swej mocy. Stąd efektywność paneli fotowoltaicznych jest tam dużo większa.
Druga zaleta jest taka, iż jeżeli wybierzmy odpowiednią orbitę biegunową zsynchronizowaną ze słońcem, to satelita będzie zawsze lub prawie zawsze dostawać światło słoneczne, z którego będzie produkować prąd dla naszego centrum danych.
Ta wizja pobudziła wyobraźnię przynajmniej niektórych możnych świata technologicznego – założyciel Amazona Jeff Bezos zapowiada, iż centra danych w kosmosie w gigawatowej skali zaczną powstawać już za 10-20 lat a jego spółka Blue Origin podobno pracuje nad niezbędną technologią od ponad roku.
Z kolei Elon Musk wierzy, iż może wykorzystywać do zadań AI jakąś zmodyfikowaną wersję satelitów wykorzystywanych przez jego spółkę SpaceX do obsługi systemu Starlink. Podobno ma to pomóc w planowanym IPO spółki, które ma szanse stać się największym w historii.
Na razie jednak rzeczywistość jest o wiele skromniejsza. W kosmosie z zaawansowanego sprzętu AI jest raptem jedna karta H100 Nvidii. I jej osiągnięciami pochwaliła się wspierana przez Nvidię spółka Starcloud, która parę tygodni temu wyniosła na orbitę satelitę z tą kartą.
AI na orbicie. Co potrafi?
Co więc wiemy o osiągnięciach Starcloud-1, bo tak się nazywa satelita spółki, wyniesiony na orbitę 2 listopada?
Jak informuje Adi Oltean, współzałożyciel i główny inżynier spółki, Starcloud był w stanie wytrenować na satelicie model nano-GPT na dziełach Szekspira i następnie uruchomić na nim wnioskowanie, czyli generowanie treści. No to przyjrzyjmy się o jaki model może chodzić.
Nano-GPT to kolekcja narzędzi służących do budowania modeli podobnych pod względem możliwości do GPT-2, a więc dość starego modelu OpenAI o raptem 124 milionach parametrów. Jednak biorąc pod uwagę, iż do treningu wybrano dzieła wszystkie Szekspira, liczące nieco powyżej 1 mln tokenów, to możemy zakładać, iż model trenowany przez Starcloud nie miał więcej niż 10 mln parametrów. Czyli był trzy rzędy wielkości mniejszy od Bielika i pięć rzędów od czołowych modeli AI.
Oltean pisze również, iż H100 na orbicie była w stanie załadować Gemmę od Google i iż ta Gemma wygenerowała odpowiedź. Tu mamy już do czynienia z większym modelem – choć nie wiemy o ile większym, bo Gemma to spora rodzina modeli od 270 mln do 27 mld parametrów – rozrzut jest więc na dwa rzędy wielkości.
Jest wiele rzeczy, których nie wiemy. Nie wiemy od jak dawna H100 działa na orbicie – czy został uruchomiony niedługo po wyniesieniu satelity, czy też dopiero w ostatnich dniach. Nie wiemy ile trwało wytrenowanie modelu na dziełach Szekspira – na ziemi przy niewielkim modelu trwa ono krótko, rzędu minut na sprzęcie konsumenckim.
Nie wiemy również, jaką Gemmę wybrał Spacecloud. Większość z tych modeli można uruchomić bez problemu na konsumenckiej karcie GPU. H100 zupełnie nie jest do tego potrzebny. Dodatkowo jeżeli Oltean pisze, iż „uruchomienie pierwszego H100 w kosmosie wymagało wiele innowacji i ciężkiej pracy niesamowitego zespołu Starcloud, aby dokonać tego przełomu,” to powstaje pytanie, czy to H100 nie zostało solidnie przerobione, na przykład po to, by zużywało mało energii. To by tłumaczyło mało imponujące dotychczasowe osiągnięcia.
Plany Spacecloud są duuuużo większe. Realne?
Jak na razie w kosmosie mamy satelitę wielkości niewielkiej lodówki z raptem jedną kartą. To bardzo daleko od celów spółki – Spacecloud chce umieścić w przestrzeni potężne centrum danych o mocy 5 GW. Jednak by tego kolosa ochłodzić potrzebny będzie gigantyczny radiator o boku 4 km, czyli o powierzchni 16 km2.
Czemu aż tak wielkie? Tu dochodzimy do podstawowego problemu przy budowaniu centrów danych w przestrzeni – problemu rozproszenia ciepła. Centrum danych o mocy 1 GW produkuje, no cóż, praktycznie tyle samo ciepła.
Na Ziemi to istotnie mniejszy problem – tu ciepło możemy odprowadzić do powietrza, wody czy gruntu. W kosmosie nie mamy takich możliwości. Zostaje nam tylko jeden sposób – odpromieniowanie ciepła.
Problem polega na tym, iż jak obliczył sam Starcloud, 1 metr kwadratowy radiatora jest w stanie odprowadzić energię w tempie około 633 watów. To oznacza, iż dla centrum danych o mocy 5 GW potrzebujemy niemal 8 km2 radiatorów. Czemu więc spółka planuje dwa razy więcej? Prawdopodobnie dlatego, iż tego rodzaju ogromna i delikatna struktura będzie podatna na uszkodzenia – wystarczy maleńki meteoryt, by wyłączyć z użytkowania część radiatorów. Potrzebny jest więc pewien spory zapas.
Czy stworzenie tak olbrzymiej struktury w kosmosie jest realne? Chwilowo nic na to nie wskazuje. choćby przy spadających kosztach wynoszenia sprzętu na orbitę dzięki osiągnięciom SpaceX, koszty byłyby, no cóż, kosmiczne.
Dodatkowo olbrzymia powierzchnia i delikatna konstrukcja sprawiałyby, iż radiatory byłyby prawdopodobnie bardzo podatne na uszkodzenia. No i w końcu sam rozmiar konstrukcji sprawia, iż do jej złożenia potrzebna byłaby bardzo zaawansowana robotyka – robotyka, której wciąż nie mamy. No ale przecież Elon Musk na pewno coś wymyśli. Byleby był to genialny robot, a nie kolejne DOGE…
No to może na Księżycu?
Innym pomysłem, sygnalizowanym przez Jeffa Bezosa jest umieszczenie centrów danych na Księżycu. Pomysł ma swoje zalety – Po pierwsze, twardy grunt, na którym takie centra by powstawały powinien znacznie uprościć projekt od strony inżynieryjnej. Po drugie, w dużej mierze odpada problem chłodzenia – ciepło można odprowadzać do gruntu Księżyca. A brak atmosfery zapewnia podobną efektywność zasilania światłem słonecznym.
Z jednym jednak podstawowym zastrzeżeniem. Na księżycu, podobnie jak na Ziemi, mamy dzień i noc. Przy czym dzień księżycowy (podobnie jak noc) to około 29,5 dnia. A to oznacza, iż centrum danych działałoby mniej więcej co drugi miesiąc. Na księżycu są co prawda takie miejsca, do których światło słoneczne dociera przez niemal cały rok (około 90%) czasu, ale znajdują się one na szczytach brzegu jednego z kraterów, co oznacza, iż ponownie wchodzimy w obszar przedsięwzięć niezmiernie trudnych z inżynierskiego punktu widzenia.
Na razie nic więc nie wskazuje, żebyśmy wyprowadzili swoje centra danych w kosmos. Budowanie ich na Ziemi jest wciąż i prostsze, i tańsze. Może kiedyś będzie inaczej. Ale chętni do zainwestowania w Spacecloud czy inne podobne przedsięwzięcie powinni się raczej uzbroić w cierpliwość – zwrotu ze swojej inwestycji mogą nie ujrzeć przez długie lata.
Źródło zdjęcia: NASA/Unsplash