Anthropic zwiększa okno kontekstowe w reakcji na GPT-5

homodigital.pl 2 godzin temu

Anthropic zwiększa okno kontekstowe swojego najpopularniejszego modelu Sonnet do 1 mln tokenów. Oczywiście firma tego nie przyznaje, ale jest to prawdopodobnie reakcja na udostępnienie przez OpenAI nowego modelu GPT-5 – po bardzo konkurencyjnych cenach. Na razie Anthropic nie ścina swoich cen, woli szukać przewag gdzie indziej. Pytanie, czy mu się uda.

Anthropic nie jest potęgą w świecie chatbotów – jego Claude jest daleko w tyle nie tylko za ChatGPT od OpenAI, ale i Perplexity czy Gemini od Google. I firmie to chyba niespecjalnie przeszkadza – przynajmniej tak długo, jak ma klientów korporacyjnych korzystających z modeli firmy w sposób programistyczny, czyli przez tzw. API.

A tutaj startup rodzeństwa Amodei w ostatnim roku wyrósł na prawdziwego giganta, wyprzedzając nie tylko Google ale i dotychczasowego lidera rynku – OpenAI. No ale ostatnio pojawił się GPT-5 i układ sił ma szansę się zmienić.

OpenAI rzuca wyzwanie, więc Anthropic zwiększa okno kontekstowe

Fakt utraty pierwszego miejsca wśród dostawców rozwiązań AI dla biznesu przez tzw. API z całą pewnością nie umknął spółce Sama Altmana i jednym z podstawowych zadań przed GPT-5 było zapewnienie przewagi nad modelami Anthropica. W jakimś stopniu udało się to w umiejętnościach nowego modelu, który w niektórych benchmarkach wyprzedził choćby najlepsze modele Anthropica.

Ale prawdziwą petardą okazała się cena – dostęp do flagowego modelu OpenAI na poziomie 1,25 dolara za milion tzw. tokenów wejściowych i 10 dolarów za milion tokenów wyjściowych. Dla najlepszego modelu Anthropica, czyli Opus 4.1, cena tokenów wejściowych jest 12x, a wyjściowych 7,5x wyższa niż dla GPT-5. Ale choćby nieco słabszy Sonnet 4 jest droższy ponad 2x dla tokenów wejściowych i 1,5x krotnie dla wyjściowych.

A to oznacza, iż Anthropic ma problem. Klienci biznesowi zwykle skrupulatnie liczą swoje koszty i jeżeli wyjdzie im, iż mogą mieć co najmniej porównywalny model AI za ułamek kosztów, to poważnie rozważą zmianę dostawcy.

Na razie Anthropic najwyraźniej postanowił nie wykonywać nerwowych ruchów na polu cenowym, tylko zdecydował się zwiększyć atrakcyjność swojego najpopularniejszego modelu, Sonnet 4, w inny sposób – zwiększając okno kontekstowe. Do całego miliona tokenów – czyli 2,5x więcej niż w przypadku GPT-5.

Czemu jest to tak ważne, zwłaszcza dla klientów biznesowych? Spora część z nich korzysta z modeli Anthropica do pisania lub modyfikacji oprogramowania. systemu często liczącego tysiące linii kodu – kodu, który żeby być dobrym, musi być spójny. A żeby był spójny, to model językowy powinien być w stanie „przetrawić” ten kod w całości – tak by móc go odpowiednio zmodyfikować lub dopisać do niego nową funkcjonalność. Jak deklaruje Anthropic, nowe okno kontekstowe pozwala przetwarzać kod o długości przeszło 75 tysięcy wierszy.

Czy ten zabieg wystarczy, żeby zachować lojalność podstawowej grupy klientów Anthropica, czyli programistów? Zobaczymy. Choć okno kontekstowe GPT-5 jest krótsze, to nie wszystkie modele mają okno kontekstowe tej samej jakości – co z tego, iż model teoretycznie przetwarza potężny kontekst, jeżeli odpowiedzi wskazują, iż sporą część z niego zapomina? A okno kontekstowe GPT-5, choć mniejsze, jest podobno doskonałej jakości.

Co na to Google?

Jak potoczy się dalej ta wojna o serca klientów korporacyjnych, a zwłaszcza programistów? Czy po dwóch salwach – cenowej od OpenAI i kontekstowej od Anthropica nastąpią drobne przesunięcia na rynku a potem nastąpi spokój?

To na pewno zależy od dwóch konkurentów. Ale również od trzeciego – Google. Z jednej strony Anthropic wchodzi w terytorium długich okien kontekstowych, zdominowanym dotąd przez Google, który już dość dawno oferował okno kontekstowe rzędu 1 mln tokenów. Z drugiej, OpenAI zbliżyło się ceną dostępu do API do cel modeli Gemini od Google. Nie jest więc wykluczone, iż firma z Mountain View zareaguje, żeby kontynuować swoje postępy wśród klientów korporacyjnych.

A pamiętajmy, iż Google, w odróżnieniu od OpenAI i Anthropica to nie startup, tylko jeden z największych Big Techów. Z głębokimi kieszeniami pozwalającymi na wojnę cenową i z grupą świetnych badaczy AI, którzy prawdopodobnie nie pozwolą firmie zostać technologicznie w tyle za konkurencją.

Dodatkowo firma w znacznej mierze korzysta w swojej infrastrukturze AI z własnych akceleratorów AI, znacznie dla niej tańszych od układów Nvidii, z których w przeważającej mierze korzystają OpenAI i Anthropic. A to oznacza, iż wojny cenowej z Googlem raczej wygrać się nie da.

OpenAI swoją decyzją o zaoferowaniu GPT-5 po bardzo atrakcyjnych cenach być może zapoczątkowało wojnę cenową. Na pewno zaś postawiło rywali w niewygodnej sytuacji. Dla nas, na szczęście, może oznaczać to, iż AI będzie i tańsza i lepsza.

Źródło zdjęcia: Solen Feyissa/Unsplash

Idź do oryginalnego materiału