Przedsiębiorstwa muszą dokonywać lepszych wyborów, aby zmniejszyć emisję GenAI

cyberfeed.pl 3 tygodni temu


Zdaniem Instytutu Badawczego Capgemini, rosnący wpływ systemów generatywnej sztucznej inteligencji (GenAI) na środowisko można znacznie zmniejszyć, jeżeli przedsiębiorstwa „wybiorą odpowiedni model” do swoich zastosowań i wdrożą zrównoważone praktyki w całym cyklu życia.

CapgeminiS Rozwój zrównoważonego GenAI w raporcie wskazano, iż w przypadku najnowszych modeli generatywnych transformatorów do wstępnego szkolenia (GPT) samo szkolenie odpowiada w przybliżeniu rocznemu zużyciu energii w 5000 amerykańskich domach, przy czym do uruchomienia modelu potrzebna jest „taka sama lub większa ilość energii” operacyjnie w kontekście biznesowym.

Oznaczało to jedno zapytanie do a duży model językowy (LLM) wymagało 10 razy więcej energii elektrycznej niż wyszukiwarka Google.

Dodał, iż w ciągu roku liczba organizacji, które to zrobiły zintegrowała GenAI ze swoimi produktami i usługami wzrósł z 6% do 24%. Ponadto oszacowano, iż do 2026 r. GenAI będzie odpowiadać za 4,8% całkowitej emisji gazów cieplarnianych organizacji, w porównaniu z obecnym wskaźnikiem wynoszącym 2,6%.

Capgemini stwierdziło również, iż użycie LLM do przeprowadzenia wnioskowania od 20 do 50 zapytań zużywa za każdym razem około 500 ml wody, a GenAI może wytworzyć od 1,2 do pięciu milionów ton metrycznych elektroodpady do 2030 r.; około 1000 razy więcej elektroodpadów niż wyprodukowano w 2023 r.

Gwałtowny wzrost zużycia energii spowodowany generatywną sztuczną inteligencją prowadzi do znacznego wzrostu emisji, które według szacunków w ciągu dwóch lat niemal podwoją udział w śladach węglowych organizacji” – powiedział Vincent Charpiot, szef akceleratora biznesu zrównoważonego rozwoju w Grupie Capgemini. „Firmy pilnie muszą włączyć zrównoważony rozwój do swoich strategii sztucznej inteligencji.

„Wykorzystując mniejsze modele, energię odnawialną i przejrzyste praktyki dostawców AI i GenAI, możemy złagodzić wpływ na środowisko, jednocześnie wykorzystując sztuczną inteligencję do napędzania innowacji i zrównoważonego rozwoju”.

Wpływ na środowisko

Od produkcji procesorów graficznych – co wymaga wydobycia metali ziem rzadkich – po szkolenie modeli do obsługi ogromnych centrów danych – wszystkie te etapy znacząco przyczyniają się do wpływu tej technologii na środowisko.

W przypadku większości organizacji korzystanie z produktów i usług GenAI wchodzi w zakres ich obowiązków Emisje z zakresu 3 – odnoszące się do pośrednich emisji gazów cieplarnianych, które powstają poza działalnością przedsiębiorstwa, ale przez cały czas są wynikiem jego działalności.

Capgemini twierdzi jednak, iż dokonywanie adekwatnych wyborów na różnych etapach cyklu życia modelu – w tym wybór sprzętu, architektury modelu, źródła zasilania dla centrów danych i ostatecznego przypadku jego użycia – może znacząco zmniejszyć wpływ na środowisko.

Dodał, iż firmy powinny rozważyć, czy w ogóle potrzebują energochłonnych technologii GenAI w przypadkach, w których mogłyby uzyskać podobne rezultaty, stosując bardziej zasobooszczędne modele.

„Każdy chce coś zrobić z generatywną sztuczną inteligencją, ale często choćby jej nie potrzebuje” – powiedział Vishal Singhvi, dyrektor ds. generatywnej sztucznej inteligencji w firmie Microsoft. „Możesz to zrobić bardzo dobrze, korzystając z tradycyjnej sztucznej inteligencji, która zużywa znacznie mniej mocy obliczeniowej i obciążeń”.

Małe modele językowe

Organizacje powinny zatem wziąć pod uwagę, czy zadania można realizować przy użyciu małe modele językowe (SLM), które są szkolone przy użyciu mniejszych i bardziej szczegółowych zbiorów danych w porównaniu z LLM.

Capgemini stwierdziło, iż może to nie tylko znacznie zmniejszyć emisję, ale także koszty. Według Arthura Menscha, dyrektora generalnego Mistral AI: Mniejsze modele oznaczają, iż aplikacje są mniej kosztowne w obsłudze, a co ważniejsze, jeżeli masz model 100 razy mniejszy, możesz go nazwać 100 razy droższym za tę samą cenę, wnosząc do aplikacji nieco więcej inteligencji przy każdym wywołaniu. ”

Dla Mauli Tikkiwal, członka zarządu brytyjskich Orchard Hill College i Academy Trust, ważne jest, aby organizacje były świadome tego, w jaki sposób ich wykorzystanie GenAI przyczynia się do negatywnego wpływu na środowisko. „Po pierwsze, musisz zidentyfikować wpływ, aby móc go śledzić i ograniczać” – powiedziała.

Chociaż monitorowanie i śledzenie emisji ma ogromne znaczenie, tylko 14% ankietowanych przez Capgemini stwierdziło, iż ich firmy mierzą i śledzą swój wpływ na GenAI.

Trzy czwarte kadry kierowniczej jako wyzwanie w pomiarze wpływu na środowisko wymieniło „ograniczoną przejrzystość” ze strony dostawców. W raporcie stwierdzono, iż „oczekują, iż sektor technologii przewodzi wysiłkom” ułatwiającym osiągnięcie tego celu.

Pomimo tych trendów Capgemini podkreśliło, iż niektóre firmy technologiczne podchodzą do technologii w sposób zrównoważony.

Zauważył na przykład, iż najnowsze procesory graficzne Nvidii są 30 razy wydajniejsze niż ich poprzednie wersje; iż LiquidAI, będący spin-offem MIT, opracował „adaptacyjne i mniej energochłonne” techniki algorytmiczne; oraz iż Microsoft wprowadził w swoich LLM funkcje monitorowania energii.

Ponadto podkreślono umowę podpisaną przez Meta na zakup energii geotermalnej w celu zasilania jej centrów danych w USA, a także pakiet Google Carbon Sense Suite, który stanowi „zbiór funkcji ułatwiających dokładne raportowanie emisji gazów cieplarnianych i ich ograniczanie”. .

Podczas szczytu AI w Londynie w czerwcu 2024 r. – stwierdzili eksperci ds. zrównoważonego rozwoju iż chociaż technologię tę można zastosować na wiele sposobów, aby pomóc przedsiębiorstwom stać się bardziej zrównoważonymi pod względem środowiskowym, należy uznać wyraźnie negatywny wpływ, jaki wywiera ona w tej chwili na planetę.

Stwierdzili, iż chociaż mogłoby to pomóc firmom lepiej zarządzać emisjami z zakresu 3 poprzez połączenie źródeł danych i uczynienie ich bardziej czytelnymi, śledzenie tych emisji może być trudne, biorąc pod uwagę sposób, w jaki organizacje gromadzą, zarządzają i udostępniają swoje dane w różny sposób.



Source link

Idź do oryginalnego materiału