Pod koniec lutego br. na łamach naszego portalu, informowaliśmy o tym, iż OpenAI zaprezentowało swój kolejny duży model językowy. GPT-4.5 posiada lepszą zdolność w rozpoznawaniu wzorców, tworzeniu powiązań oraz generowaniu spostrzeżeń. Na chwilę obecną najnowszy LLM dostępny jest wyłącznie dla deweloperów (GPT-4.5 Preview) oraz osób posiadających najwyższy plan – Pro. Sprawdźmy jak wypada cenowo ten najnowszy „transformer”.
Największy model z kosmiczną ceną to GPT-4.5
Niestety w porównaniu z innymi modelami poniesione koszty mogą przyprawić potencjalnego dewelopera o zawrót głowy. Cena za 1 mln tokenów wyjściowych to aż 150 USD. Dla porównania, korzystając z GPT-4o za taką samą ilość użytych tokenów zapłacimy 10 USD, a w przypadku „okrojonego” GPT-4o-mini tylko 0,60 USD. jeżeli chodzi o rozumującego o3-mini, to za 1 mln tokenów (output) zapłacimy 4,40 dolary.
Z ciekawości sprawdziłem ile konkretnie będzie kosztować odpowiedź na jedno ogólne pytanie i czy treść nie będzie odstawać od odpowiedzi innych modeli sztucznej inteligencji oferowanych przez OpenAI. Na wstępie muszę zaznaczyć, iż w tej chwili największy GPT (jak sama nazwa wskazuje), przeznaczony jest do czatu i nie stosuje rozumowania.
GPT-4.5 pod kątem ceny wypada blado w porównaniu z innymi modelami OpenAI. / Źródło: platform.openai.comDwa sprawdzające pytania do AI
Nie będę podawał wszystkich odpowiedzi, natomiast uwzględnię treść zaprezentowaną tylko przez najdroższy (GPT-4.5) i najtańszy (GPT-4o-mini) model. W każdym przypadku pełnią one rolę asystenta. Parametr: max_tokens, czyli maksymalna ilość tokenów nie został ustawiony.
Pytanie jest ogólne, nie jest techniczne i szczególnie skomplikowane.
„Dlaczego model GPT-4.5 jest w tej chwili tak drogi?”GPT-4.5 Preview odpowiada dlaczego jest tak kosztowny
Zacznijmy od bohatera dzisiejszego odcinka, czyli GPT-4.5. Sprawdźmy skąd wynika tak wysoka cena za jego użytkowanie.
Na chwilę obecną (październik 2023), nie ma oficjalnych informacji na temat wypuszczenia lub choćby istnienia modelu GPT-4.5. Aktualną najnowszą wersją modelu GPT jest GPT-4.
Jeżeli posiadasz informacje o modelu GPT-4.5, upewnij się, czy są one sprawdzone i oficjalnie potwierdzone przez OpenAI lub wiarygodne źródło. Wysokie koszty dużych modeli językowych zwykle wynikają z kilku istotnych przyczyn:
1. **Koszty treningu:** Modele GPT wymagają ogromnych nakładów obliczeniowych, co powoduje olbrzymie koszty infrastrukturalne i energetyczne. Do ich trenowania wykorzystuje się drogie klastry GPU lub TPU, które zużywają ogromne ilości energii i zasobów przez całe miesiące.
2. **Koszt danych treningowych:** Olbrzymie ilości danych użyte do treningu modelu są często trudne do pozyskania. Ich zebranie, oczyszczenie i przetworzenie generuje dodatkowe koszty i wymaga ogromnej inwestycji w specjalistyczne zasoby.
3. **Ekspertyza specjalistyczna:** Proces produkcji zaawansowanych modeli takich jak GPT wymaga zespołów wysoko wykwalifikowanych ekspertów z dziedziny sztucznej inteligencji, uczenia maszynowego i inżynierii systemów skalowalnych, których wiedza i umiejętności są kosztowne.
4. **Energia i infrastruktura obliczeniowa:** Model produkcyjny GPT wymaga ciągłego utrzymania infrastruktury chmurowej lub lokalnych centrów danych z wydajnymi procesorami i kartami graficznymi, co generuje wysokie koszty operacyjne.
5. **Ochrona własności intelektualnej i koszty badań i rozwoju:** Firmy inwestują duże sumy w badania nad AI, prowadząc jednocześnie działania zabezpieczające ich własność intelektualną i spełniając regulacje.
6. **Ograniczony dostęp i wczesny etap technologii:** W początkowej fazie dostęp do nowych, niezwykle zaawansowanych modeli może być limitowany, co naturalnie podnosi cenę dostępu i stosowania.
Podsumowując: jeżeli w przyszłości pojawi się rzeczywiście GPT-4.5, można się spodziewać, iż jego wysoka cena będzie konsekwencją wysokich kosztów produkcji, utrzymania, infrastruktury oraz bardzo dużych nakładów finansowych, jakie trzeba ponosić w pracach badawczo-rozwojowych.
Zawsze warto sprawdzać oficjalne źródła OpenAI, by być na bieżąco z aktualnościami dotyczącymi rozwoju produktów GPT.
GPT-4.5 poinformował o punkcie odcięcia wiedzy. Jak widać odpowiedź jest dosyć ogólna i w przypadku tego typu pytań, inne modele powinny okazać się lepszym wyborem.
GPT-4o-mini – tanio, zwięźle i na temat
Przyszła kolej na mniejszy model językowy, czyli GPT-4o-mini. Dał on następującą odpowiedź.
Model GPT-4.5 jest drogi z kilku powodów:
1. **Koszty obliczeniowe**: Szkoleń i działania dużych modeli językowych wymaga znacznych zasobów obliczeniowych, co wiąże się z eksploatacją zaawansowanych procesorów graficznych (GPU) oraz dużymi kosztami energii.
2. **Czas i zasoby deweloperskie**: Tworzenie i szkolenie tak zaawansowanego modelu to czasochłonny proces, który wymaga zespołu specjalistów z różnych dziedzin, w tym inżynierów, naukowców zajmujących się danymi i specialistów ds. etyki AI.
3. **Infrastruktura**: Utrzymanie odpowiedniej infrastruktury serwerowej i chmurowej, która jest zdolna do obsługiwanie zapytań użytkowników w czasie rzeczywistym, również wiąże się z dużymi kosztami.
4. **Ochrona i zarządzanie danymi**: W fazie szkolenia dużych modeli ważne jest, aby dbać o jakość i bezpieczeństwo danych, co może wiązać się z dodatkowymi wydatkami na technologię i ich utrzymanie.
5. **Badania i rozwój**: Inwestycje w badania i rozwój są istotnym elementem tworzenia nowoczesnych modeli językowych. Regularne aktualizacje i nowe wersje wymagają znacznych nakładów finansowych.
6. **Monetyzacja i model biznesowy**: Często firmy stosujące modele tego typu muszą je monetyzować, aby pokryć wydatki i osiągnąć rentowność, co może wpływać na ceny dla końcowych użytkowników.
Wszystkie te czynniki sprawiają, iż rozwój i utrzymanie modelu GPT-4.5 oraz innych zaawansowanych modeli AI może być kosztowne.
SLM poradził sobie wcale nie gorzej od większego i nowszego GPT-4.5.
Koszt pierwszej odpowiedzi (input, output)
Zainspirowany przykładem tekstu z news’a od OpenAI, zadałem pytanie trochę z innej beczki, mianowicie:
„Jak mam sobie poradzić z utratą pracy?”GPT-4.5 Preview daje kilka życiowych wskazówek
Z góry założyłem, iż ten model powinien być empatyczny i zamiast przedstawiać suche fakty czy wskazówki weźmie pod uwagę aktualną sytuację osoby zadającej pytanie.
Przykro mi, iż straciłeś/-aś pracę. To dla wielu osób trudna sytuacja, która może wywoływać stres lub frustrację. Oto kilka wskazówek, jak sobie poradzić z utratą pracy:
1. Daj sobie czas na zaakceptowanie sytuacji
– Pozwól sobie na przeżywanie emocji – rozczarowania, gniewu czy smutku. To normalne i zdrowe.
– Unikaj obwiniania siebie lub poczucia winy.
2. Zadbaj o wsparcie bliskich osób
– Porozmawiaj z rodziną, przyjaciółmi lub kimś zaufanym, kto może Cię wysłuchać.
– Nie bój się szukać emocjonalnego wsparcia – to pomaga zmniejszyć stres i poprawia perspektywę.
3. Oceń swoją sytuację finansową
– Zrób dokładny bilans budżetu domowego i sprawdź, jak długo możesz się utrzymać bez pracy.
– Zobacz, z jakiej pomocy instytucjonalnej możesz skorzystać (np. ubezpieczenie społeczne, zasiłek dla bezrobotnych).
4. Sporządź plan działania
– Zaktualizuj swoje CV oraz profile zawodowe (np. LinkedIn, portale branżowe).
– Określ jasno, jakie masz kompetencje, mocne strony, a także cele zawodowe.
5. Aktywnie szukaj nowej pracy
– Regularnie przeglądaj ogłoszenia, nawiązuj kontakty biznesowe, uczestnicz w wydarzeniach branżowych.
– Bądź otwarty/-a na nowe opcje – czasami nowa praca oznacza także zmianę branży lub podejścia.
6. Rozważ zdobywanie nowych kompetencji
– Zainwestuj w siebie: zrób wartościowy kurs, warsztat online lub zdobądź nowe umiejętności.
– Rozważ dokształcanie się lub zmianę ścieżki zawodowej.
7. Zachowaj rutynę codzienną
– Wstawaj wcześnie, dbaj o swój wygląd i samopoczucie.
– Bądź aktywny/-a fizycznie – aktywność pomaga redukować stres i poprawić nastrój.
8. Dbaj o swoje zdrowie psychiczne
– Zadbaj o sen, dobre odżywianie i czas na relaks.
– jeżeli ciągle odczuwasz silny stres lub objawy depresji, nie wahaj się skontaktować ze specjalistą-psychologiem bądź terapeutą.
Pamiętaj, iż utrata pracy nie definiuje Ciebie jako osoby. Wiele osób przeżyło podobne sytuacje i potrafiło z nich wyjść silniejszymi i mądrzejszymi. Wszystko, co teraz robisz, to krok do przodu – trzeba tylko uzbroić się w cierpliwość i konsekwentnie działać. Powodzenia i jeżeli potrzebujesz jeszcze jakiejś pomocy lub wsparcia, jestem tutaj dla Ciebie.
Widać, iż GPT-4.5 stanął na wysokości zadania i odpowiedział „po ludzku”. Mogę się jednak przyczepić do długości tekstu. Wolałbym jednak, aby te osiem punktów było trochę skompresowane. Prawdopodobnie brak nałożonych z góry ograniczeń, spowodowało, iż AI trochę się rozpisała.
GPT-4o-mini – bezpłatna porada odnośnie pracy
Spójrzmy na odpowiedź GPT-4o-mini.
Utrata pracy może być bardzo trudnym doświadczeniem, ale istnieje wiele sposobów, aby sobie z tym poradzić. Oto kilka kroków, które mogą pomóc:
1. **Daj sobie czas na przetworzenie emocji**: Ważne jest, aby dać sobie przestrzeń na odczuwanie różnych emocji, które mogą się pojawić po stracie pracy, takich jak smutek, złość czy lęk.
2. **Analiza sytuacji**: Spróbuj zrozumieć, co doprowadziło do utraty pracy. Czy była to decyzja firmy, czy może Twoje umiejętności i doświadczenie nie odpowiadały wymaganiom? To może pomóc w przyszłości.
3. **Aktualizacja CV i profilu LinkedIn**: Zaktualizuj swoje CV, uwzględniając wszystkie najnowsze osiągnięcia i umiejętności. Profil LinkedIn również powinien być aktualny, aby potencjalni pracodawcy mogli Cię łatwiej znaleźć.
4. **Szukaj wsparcia**: Porozmawiaj z rodziną i przyjaciółmi o swoich odczuciach. Możesz także rozważyć wsparcie ze strony profesjonalistów, takich jak doradcy zawodowi czy terapeuci.
5. **Rozważ przekwalifikowanie**: Może to być dobry moment, aby zastanowić się nad zdobyciem nowych umiejętności lub zawężeniem specjalizacji, co może zwiększyć Twoje szanse na rynku pracy.
6. **Networking**: Skontaktuj się z dawnymi kolegami z pracy, znajomymi oraz uczestnicz w wydarzeniach branżowych. Networking może prowadzić do nieoczekiwanych możliwości zawodowych.
7. **Przygotowanie do rozmów kwalifikacyjnych**: Ćwicz odpowiedzi na typowe pytania, a także przygotuj się na przedstawienie swojej wartości i osiągnięć.
8. **Zadbanie o siebie**: Pamiętaj o regularnych aktywnościach fizycznych, zdrowym odżywianiu i wystarczającej ilości snu. Zdrowie psychiczne i fizyczne ma najważniejsze znaczenie w trudnych czasach.
9. **Ustalenie rutyny**: Trzymanie się codziennego planu lub rutyny może pomóc w zachowaniu motywacji i poczucia stabilności.
10. **Zachowanie pozytywnego nastawienia**: Choć to nie jest łatwe, staraj się nie poddawać negatywnym myślom. Pozytywne podejście może pomóc w przetrwaniu trudnych chwil i otworzyć nowe możliwości.
Pamiętaj, iż wiele osób doświadczyło utraty pracy i zakładając nowe drogi kariery, zdołały odnaleźć się w nowych okolicznościach. Kluczem jest działania i elastyczność.
Widać, iż mniejszy brat ma gorszą zdolność do współodczuwania i wczuwania się w sytuację drugiej osoby. Tekst ma podobną długość jak w przypadku odpowiedzi GPT-4.5.
Koszt drugiej odpowiedzi (input, output)
Podsumowanie
GPT-4.5 może i jest lepszym kompanem i słuchaczem w porównaniu do innych modeli OpenAI, ale wydaje się, iż jest to obarczone niewspółmiernie wysokimi kosztami. Za dwa zapytania zapłaciłem ok. 0,21$, co przy praktycznie darmowych odpowiedziach uzyskanych od GPT-4o-mini robi wielką różnicę. Można zauważyć, iż powyższe odpowiedzi nie odstają od siebie aż tak bardzo. Oczywiście trzeba mieć na uwadze fakt, iż poszczególne modele mają swoje przeznaczenie i stosowanie na siłę jednego z nich do zadań, które nie są dla niego stworzone, zdecydowanie nie ma sensu.
GPT-4.5 cechuje się lepszym zrozumieniem intencji użytkownika. Można powiedzieć, iż jest „bardziej ludzki” i nadaje się do typowego czatu. Sprawdzi się jako „przyjaciel” i „życiowy doradca”, który może pocieszyć czy choćby udzielić wsparcia w wielu różnych sytuacjach. Niestety subskrypcja planu Pro do tanich nie należy (obecnie jest to 229 EUR miesięcznie). Zatem jeżeli ktoś używa tego typu rozwiązań sporadycznie, to prawdopodobnie najrozsądniej będzie korzystanie z oferty darmowych planów od różnych technologicznych gigantów.
Mała wskazówka
Wychodząc poza ramy OpenAI; deweloperzy szukający optymalizacji kosztów, mogą zainteresować się mniejszym modelem AI od Google – Gemini 1.5 Flash-8B. Sprawdzi się on w przypadku dużej ilości mniej zaawansowanych zadań. W wielu sytuacjach wyniki prezentowane przez Flash-8B są dla mnie satysfakcjonujące. Przykładowo, bez problemu radzi sobie z podstawową analizą obrazków. Więcej informacji na ten temat znajduje się w tym miejscu.
Źródło: OpenAI, ChatGPT
