Amazon Web Services (AWS) przedstawił sposób swoich inwestycji w chipy i oprogramowanie sztucznej inteligencji (AI). oszczędzają pieniądze klientów i pomagają im znacznie szybciej przenosić starsze obciążenia Windows i VMware poza siedzibę firmy.
Dyrektor generalny AWS Matt Garman wygłosił przemówienie otwierające konferencję klientów i partnerów giganta chmury publicznej Re:Invent w Las Vegas, co jest jego pierwszą dostawą od czasu przejęcia sterów firmy w czerwcu 2024 rokuaby omówić potencjał generatywnej sztucznej inteligencji (GenAI) w zakresie cyfrowej transformacji sposobu działania przedsiębiorstw. Obszernie opowiedział także o pracy związanej z zapewnieniem wyposażenia infrastruktury chmurowej AWS, aby sprostać rosnącemu zapotrzebowaniu klientów na moc obliczeniową niezbędną do obsługi obciążeń AI i GenAI.
Jak wcześniej informował Computer Weekly, zapotrzebowanie klientów na obciążenia GenAI ze strony klientów zostało niedawno wskazane jako przyczyna „znaczącego ponownego przyspieszenia” rocznej stopy wzrostu AWS, przy czym spółka odnotowała wzrost przychodów o 19,1% rok do roku w wynikach za trzeci kwartał.
Garman poruszył kwestię 14-letniej współpracy Amazona z Nvidią, która, jego zdaniem, umożliwiła mu wdrażanie kolejnych coraz potężniejszych instancji procesorów graficznych (GPU) w oparciu o technologię tej ostatniej, dzięki czemu może dotrzymać kroku sztucznej inteligencji swoich klientów żądania.
Firma zwiększyła także wysiłki w zakresie tworzenia własnego krzemu AI – a mianowicie rodziny chipów Tranium – w celu obsługi szerszej gamy instancji zaprojektowanych w celu poprawy wydajności kosztowej w przypadku obciążeń wymagających dużej mocy obliczeniowej. Do tego momentu Garman wykorzystał swoją myśl przewodnią do ogłoszenia, iż druga generacja instancji Tranium stała się już ogólnie dostępna, twierdząc, iż najnowsza iteracja może zapewnić „30–40%” lepszą wydajność cenową niż „obecne instancje zasilane przez GPU”.
Opiera się to na opiniach pierwszych użytkowników tej technologii, przy czym Garman umieścił firmę Adobe wśród klientów, którzy już na początku zaobserwowali „obiecujące” sukcesy tej technologii.
Innym jest startup Poolside zajmujący się inżynierią systemu skupiającą się na sztucznej inteligencji, który według doniesień zobowiązał się do szkolenia wszystkich przyszłych wersji swojego dużego modelu pionierskiego na platformie Tranium 2. Firma przewiduje również, iż to posunięcie wygeneruje oszczędności rzędu 40%. „Databricks to jedna z największych na świecie firm zajmujących się danymi i sztuczną inteligencją” – powiedział. „[It] planuje używać Trainium 2 do uzyskiwania lepszych wyników i [to] obniżyć całkowity koszt posiadania dla naszych wspólnych klientów choćby o 30%.”
Otwarcie na temat wykorzystania GenAI przez Amazon
Później rozmowa przeniosła się na temat tego, jak GenAI zmienia również sposób działania AWS, ze szczególnym naciskiem na to, jak jego własna oferta pomaga przyspieszyć czas potrzebny na refaktoryzację starszych, lokalnych obciążeń i przygotowanie ich do migracji do użytku publicznego chmura.
Centralnym punktem tej części dyskusji był Amazon Qktóry jest firmowym asystentem generatywnego chatbota AI, przeznaczonym do użytku wewnętrznego przez twórców oprogramowania, analityków biznesowych i pracowników contact center w celu zwiększenia wydajności ich pracy.
Migracja obciążeń klientów z prywatnych centrów danych do chmury publicznej to proces, który napędza rozwój firmy przez dziesięć lub więcej lat od jego powstania w 2006 r.
Jednak pomimo tego, iż firma wcześniej przyznała, iż duża część zadań w przedsiębiorstwach pozostaje lokalna, był to obszar, o którym mówiono znacznie rzadziej podczas przemówienia, dopóki Garman nie wspomniał, w jaki sposób Amazon Q może pomóc w tym zadaniu.
„Naszym celem w AWS jest pomoc każdemu konstruktorowi we wprowadzaniu innowacji, [and] chcemy uwolnić Cię od niezróżnicowanego dźwigania ciężkich przedmiotów i naprawdę skupić się na tych kreatywnych rzeczach, które czynią Twój budynek wyjątkowym… [and] Generatywna sztuczna inteligencja jest ogromnym akceleratorem tych możliwości” – powiedział.
Jako przykład opowiedział o tym, jak Amazon Q Developer, wersja chatbota zaprojektowana specjalnie, aby pomóc programistom przyspieszyć procesy CodeDeploy, pomaga klientom wdrażać szybsze, bezpieczniejsze i lepszej jakości aktualizacje oprogramowania.
Następnie Garman ogłosił kilka nowych funkcji, które zostaną dodane do Amazon Q Developer, które będą generować testy jednostkowe, dokumentację i recenzje kodu w imieniu programistów, dzięki czemu będą mogli spędzać więcej czasu każdego dnia na pisaniu kodu niż na zajmowaniu się powiązanym z nim administratorem.
Odnosząc się do dziedzictwa
Twierdzono, iż oprogramowanie skraca także czas, jaki muszą spędzać na zarządzaniu starszymi aplikacjami.
„Jeden z [the software’s] najpotężniejszymi możliwościami, jakie już mamy, jest [its ability to] zautomatyzować aktualizacje wersji Java” – powiedział Garman. „To, co może zrobić, to przekształcić aplikację Java ze starej wersji Java do nowej wersji w ułamku czasu, jaki zajęłoby to manualne wykonanie. Jest to praca, której nie lubi żaden programista, a która jest niezwykle ważna”.
Według Garmana zintegrowanie tej funkcji z wewnętrznymi systemami firmy Amazon umożliwiło „migrację dosłownie dziesiątek tysięcy aplikacji produkcyjnych” do Java 17 w „małym ułamku czasu”, jaki zwykle zajmuje. „Nasze zespoły szacują, iż zaoszczędziło nam to 4500 lat pracy programistycznej… [and] jest to oszałamiająca ilość zaoszczędzonego czasu, a ponieważ teraz działamy na nowoczesnej Javie, możemy też używać mniej sprzętu. Dzięki temu procesowi zaoszczędziliśmy 260 milionów dolarów rocznie”.
Aktualizacje Java to jedno, ale – zdaniem Garmana – migracja, przy której wiele przedsiębiorstw potrzebuje pomocy, polega na przejściu z Windowsa na Linuksa. I jest to coś, w czym AWS może teraz pomóc dzięki wydaniu poglądowemu nowej wersji Amazon Q Developer.
„Klienci uwielbiają przycisk umożliwiający łatwe opuszczenie systemu Windows” – powiedział. „Są zmęczeni ciągłymi problemami z bezpieczeństwem, ciągłym pakowaniem i łataniem, wszystkimi wyzwaniami związanymi ze skalowalnością, z którymi muszą sobie radzić, i zdecydowanie nienawidzą uciążliwych kosztów licencjonowania.
„Ale dzisiaj zdajemy sobie sprawę, iż jest to trudne. adekwatnie modernizacja z dala od systemu Windows nie jest łatwa, [but] dzięki Q Developer modernizacja okien stała się o wiele łatwiejsza… [as it allows you] do transformacji aplikacji .Net działających w systemie Windows do systemu Linux w ułamku czasu.”
Podpis IT
Na przykład firma Garman oznaczyła transakcje cyfrowe, podpisując umowę z firmą programistyczną Signature IT oraz pracą wykonaną przez nią w celu modernizacji starszych aplikacji .Net i migracji ich z systemu Windows do systemu Linux. „Był to projekt, który według szacunków miał zająć od sześciu do ośmiu miesięcy, [and] faktycznie ukończyli go w ciągu zaledwie kilku dni” – powiedział. „To czas, który zmienia zasady gry”.
Jednak nie tylko obciążenia systemu Windows przedsiębiorstwa mają trudności z modernizacją. „Windows nie jest jedyną starszą platformą w centrum danych, która spowalnia wszystkie wysiłki modernizacyjne… często to obciążenia VMware klienci naprawdę chcieliby zmodernizować do usług natywnych w chmurze” – powiedział Garman.
„VMware jest głęboko zakorzenione w wielu centrach danych i to już od naprawdę długiego czasu. A dzieje się tak, że… ponieważ to było tam przez długi czas, na tym się kończy [being] ten rodzaj spaghetti bałaganu połączonych ze sobą aplikacji.”
„[So] naprawdę najtrudniejszą częścią modernizacji jest sprawdzenie, jakie są zależności między tymi aplikacjami” – powiedział. „A migracje są podatne na błędy, ponieważ trudno zrozumieć, czy coś przeniesiesz, czy spowoduje to uszkodzenie czegoś innego. I znowu, oczywiście, licencje są drogie.”
Aby w tym pomóc, Q Developer ma również możliwości, które pozwolą na rekonfigurację obciążeń centrów danych opartych na VMware tak, aby stały się natywne w chmurze, przy czym system będzie w stanie zidentyfikować zależności i utworzyć plan migracji dla użytkownika.
„[This] naprawdę skraca czas migracji i to znacznie [the organisation’s] ryzyko” – stwierdził Garman. „Uruchamia także agenty, które mogą konwertować lokalną konfigurację sieci VMware na nowoczesne odpowiedniki AWS. To, co kiedyś trwało miesiącami pracy, zamienia się w godziny, a choćby tygodnie”.
Kolejny złożony projekt migracji centrów danych, który firma chce uprościć dla przedsiębiorstw dzięki Amazon Q, dotyczy komputerów mainframe, które Garman określił jako „zdecydowanie najtrudniejsze do migracji do chmury”.
„Kiedy rozmawiasz z klientami, sam wysiłek związany z analizą, dokumentowaniem i planowaniem modernizacji komputerów mainframe jest często zbyt duży, [and] ludzie się poddają [because] to zbyt trudne. Okazuje się, iż Q też może w tym pomóc” – powiedział.
Oprogramowanie zawiera szereg agentów, którzy są w stanie analizować kod komputera mainframe, refaktoryzować aplikacje i tworzyć w czasie rzeczywistym dokumentację dla starszego kodu COBOL, dzięki czemu przedsiębiorstwa mogą uzupełniać wszelkie luki w wiedzy na temat jego możliwości.
„Większość klientów powie, iż migracja ich komputerów mainframe zajmie prawdopodobnie od trzech do pięciu lat… ale planowanie projektu na trzy do pięciu lat jest prawie niemożliwe” – powiedział Garman. „W większości przypadków po prostu nie są one realizowane”.
I choć w tej chwili Amazon Q nie może przeprowadzić migracji komputerów mainframe dzięki jednego kliknięcia, powiedział, iż wczesne testy sugerują, iż oprogramowanie mogłoby znacznie przyspieszyć tempo tych projektów.
„Uważamy, iż Q może faktycznie zamienić to, co miało być wieloletnim wysiłkiem, w wielokwartalny wysiłek, skracając o ponad 50% czas migracji komputerów mainframe” – powiedział Garman. „Jeśli potrafisz podjąć wieloletni wysiłek i sprowadzić go do kilku kwartałów, ludzie naprawdę mogą się nad tym zastanowić. Klienci są tym niesamowicie podekscytowani.”