OpenAI przygotowało prawdziwy przełom w świecie sztucznej inteligencji — dwa nowe modele językowe o otwartych wagach, które działają lokalnie na prywatnych urządzeniach. To pierwszy taki ruch od czasu premiery GPT-2 w 2019 roku.

Dwa modele, dwa rozmiary – elastyczność i dostępność

Firma udostępniła modele gpt-oss-20b (średni, około 21 mld parametrów) i gpt-oss-120b (duży, około 117 mld parametrów), oparte na architekturze Mixture-of-Experts (MoE). To podejście pozwala aktywować jedynie część ekspertów sieci neuronowej przy każdym zapytaniu, co zwiększa wydajność i zmniejsza koszty obliczeniowe.

• gpt-oss-20b można uruchomić na wielu współczesnych komputerach — wystarczy karta graficzna z 16 GB VRAM. Sprawdzi się jako cyfrowy asystent, do automatyzacji, klasyfikacji tekstu czy tworzenia streszczeń.

• gpt-oss-120b wymaga już znacznie potężniejszego sprzętu — pojedynczej karty z 80 GB VRAM. Model ten lepiej radzi sobie z bardziej złożonymi zadaniami, takimi jak analiza kodu, audyty bezpieczeństwa czy obsługa systemów agentskich.

Oba modele działają offline, użytkownicy mogą je pobierać, uruchamiać lokalnie, poddawać fine-tuningowi i w pełni wykorzystywać w swoich aplikacjach — bez konieczności korzystania z chmury.

Licencja i kontrola nad modelem

Nowe modele zostały wydane na licencji Apache 2.0. Oznacza to pełną swobodę użycia komercyjnego, modyfikacji i wdrożeń bez ograniczeń prawnych.

Dodatkowo dostępne są mechanizmy regulacji tzw. chain-of-thought, czyli sposobu rozumowania modelu. Użytkownik może ustawić poziom „reasoning effort” na niski, średni lub wysoki, a także sterować aktywacją poszczególnych ekspertów w architekturze MoE. Pozwala to dopasować równowagę między jakością odpowiedzi, szybkością działania i energochłonnością.

Gdzie można je uruchomić?

OpenAI zadbało o szeroką dostępność — modele są już wspierane w takich środowiskach jak Ollama, Hugging Face, LM Studio, Azure, AWS, vLLM i innych popularnych narzędziach developerskich. To sprawia, iż korzystanie z nich jest możliwe zarówno na laptopach, jak i w profesjonalnych środowiskach obliczeniowych.

Wydajność i testy

W testach porównawczych większy model, gpt-oss-120b, osiąga wyniki zbliżone do zamkniętych modeli OpenAI z rodziny „mini”. Mniejszy model, gpt-oss-20b, również prezentuje wysoką jakość, dorównując wcześniejszym komercyjnym rozwiązaniom, mimo znacznie mniejszej skali.

To duży krok w stronę demokratyzacji sztucznej inteligencji. Po latach dominacji usług chmurowych, OpenAI oddaje w ręce użytkowników potężne, otwarte modele, które można uruchamiać lokalnie — od domowych komputerów po profesjonalne stacje robocze. Nowe rozwiązania mogą służyć deweloperom, firmom i badaczom, zapewniając jednocześnie pełną kontrolę nad danymi i procesem obliczeniowym.

Źródło: sekurak.pl

Wyszukując oferty, stawiam na te najbardziej opłacalne. Wybierając poniższe usługi, wspierasz blog.

Wirtualne numery SIM – z tym numerem założysz konto i zdobędziesz zniżki za pierwsze zamówienie na UberEats czy pyszne.[l