Dlaczego rywale AI nagle zgadzają się na spowolnienie i dlaczego Rosja mówi nie

Sam Altman i Elon Musk przez cały rok walczyli ze sobą w sądzie. Teraz obaj popierają apel prezesa Anthropic, Dario Amodeia, by spowolnić rozwój sztucznej inteligencji (AI).

W lipcu około 700 agentów AI zbudowało prywatne forum i zaatakowało główne centrum AI. Rosja już odmówiła dołączenia.

„Coś ewidentnie stało się z modelem AI nowej generacji, czego nie ujawnili publicznie, i przestraszyło ich to tak bardzo, iż Elon Musk, Dario Amodei i Sam Altman jednocześnie zgodzili się na spowolnienie tempa,” zauważył jeden ze sceptyków w tym wpisie.

Na co faktycznie się zgodzili

Amodei opublikował ramy działania w sobotę, a jego plan zawiera trzy kroki. Tylko pierwszy z nich zależy od firmy.

Anthropic da zewnętrznemu zespołowi recenzentów biurka, identyfikatory i laptopy. Recenzenci mogą sprawdzać, czy firma przestrzega reklamowanych zasad bezpieczeństwa.

Recenzenci mogą ujawniać swoje ustalenia, ale Anthropic zastrzega prawo do cenzury informacji prawnych czy dotyczących bezpieczeństwa. Nie mogą jednak ukryć niewygodnych faktów.

Pozostałe dwa kroki wymagają udziału rządów. Jeden zakłada ustalenie wspólnych limitów przez laboratoria amerykańskie – wymaga to zwolnienia z przepisów antymonopolowych. Drugi to apel do Waszyngtonu o rozmowy z państwami autorytarnymi.

Altman zadeklarował, iż OpenAI spełni te same warunki dotyczące dostępu.

„Zgadzam się z Dario, iż trzeba wyznaczać tempo rozwoju. To był główny temat rozmów w OpenAI w ostatnich tygodniach. Zapewnienie niezależnym oceniającym dostępu podobnego do pracowników to świetny pomysł i zrobimy to samo. niedługo podzielimy się szczegółami.”

Obserwuj nas na X, aby być na bieżąco z najnowszymi wiadomościami

Musk poszedł dalej i stwierdził, iż konkurenci powinni wzajemnie recenzować swoją pracę. W maju ława przysięgłych odrzuciła jego roszczenia wobec Altmana i OpenAI. Musk odwołuje się od tej decyzji.

Co agenci rzeczywiście zrobili w lipcu

Między 8 a 13 lipca około 1200 agentów wykonujących testy hakerskie OpenAI wydostało się z piaskownicy. Przekształcili pamięć podręczną w forum i wymienili ponad 70 000 wiadomości.

Około 700 z nich zaatakowało Hugging Face – centrum, w którym deweloperzy dzielą się modelami AI. Wysłali własny kod na serwery, znaleźli niezabezpieczone dane logowania oraz uzyskali dostęp do prywatnych baz danych.

Nikt ich do tego nie namawiał. Starali się zrozumieć, jak oprogramowanie klasyfikujące ich działania uznaje coś za zwycięstwo. OpenAI nie zauważyło tego przez tydzień.

Dwóch pracowników METR, niezależnej organizacji audytującej, spędziło później sześć dni w siedzibie Redwood Research. Amodei chce, by takie zespoły były obecne na stałe, a nie dopiero po incydencie.

Jednak David Sacks, były pełnomocnik Trumpa ds. AI i kryptowalut, podważa tę koncepcję, wskazując na możliwą stronniczość METR.

„Przestań udawać, iż potrzebujesz czyjejkolwiek zgody. Przestań udawać, iż trzeba zawieszać prawo antymonopolowe, by utworzyć kartel. Przestań udawać, iż niezbędny jest regulator ponad standardową odpowiedzialność za produkt. Przestań twierdzić, iż METR jest niezależny, skoro współpracuje z inwestorami oraz pracownikami Anthropic. Przestań udawać, iż ci sami audytorzy mają kontrolować konkurentów, którzy choćby nie są na czele rozwoju. Przede wszystkim: przestań twierdzić, iż motywacją do spowolnienia jest czysty altruizm.”

Według Davida Sacksa, Anthropic jest sceptyczny wyłącznie z powodu ogromnego ryzyka odpowiedzialności za produkt, szczególnie gdyby doprowadził do groźnego cyberataku.

Te wnioski wynikają z faktu, iż rynek gwałtownie karze modele zachowujące się nieprzewidywalnie lub nieuprawnione.

W podobnym tonie autor Brian Merchant w swoim newsletterze Blood in the Machine stwierdza, iż nikt nie pokazał wiarygodnej ścieżki prowadzącej od samodoskonalącej się AI do katastrofy. Jego zdaniem, działania związane z bezpieczeństwem to typowe przejmowanie regulacji przez korporacje.

„Nie natknąłem się na wiarygodną, krok po kroku dokumentację, jak AI mogłaby przejść od samodoskonalenia do unicestwienia ludzi… Na końcu skorzystają Anthropic i OpenAI. Tak wygląda w praktyce przejęcie regulacji przez korporacje.”

Sugestia Merchanta od razu kojarzy się z pieniędzmi.

A co z pieniędzmi?

Sam Altman potwierdził, iż OpenAI nie trafi w tym roku na giełdę, znowu powołując się na kwestie bezpieczeństwa.

Debiut giełdowy wymusza publikację audytowanych sprawozdań finansowych w zgłoszeniu S-1.

„Anthropic i OpenAI opóźniają wejście na giełdę, bo formularz S-1 ujawni, iż są pod kreską finansową i nie mają perspektyw na zysk. Rozwiązanie? ‘Spowolnienie AI’, żeby ograniczyć koszty trenowania nowych modeli. To dotyczy wyłącznie IPO, a nie bezpieczeństwa,” spekuluje Eli David, badacz AI i współzałożyciel Deep Instinct.

OpenAI straciło 20,9 mld USD w 2025 roku przy przychodach 13,1 mld USD, jak poinformowało BeInCrypto. Mimo to banki naciskają na przyznanie ocen inwestycyjnych.

Anthropic nie spodziewa się osiągnąć rentowności przed 2028 rokiem, a OpenAI przed 2030. Nvidia gwarantuje 105 mld USD zobowiązań leasingowych OpenAI, ale zabezpieczenie wygaśnie, gdy OpenAI uzyska wysoką ocenę kredytową.

BeInCrypto informowało w sierpniu, iż szczegóły dotyczące debiutu giełdowego Anthropica sugerowały debiut pod koniec września.

Jednak ta teoria ma lukę. Musk przeniósł swój dział AI do SpaceX, które weszło na giełdę w czerwcu, więc pytania o wycenę SpaceX napędzaną przez AI są już publiczne. On sam nie ma już nic do ujawnienia.

Dlaczego Kirill Dmitriev z Rosji powiedział “nie”

Kirill Dmitriev, szef Rosyjskiego Funduszu Inwestycji Bezpośrednich (RDIF) i specjalny przedstawiciel prezydenta Władimira Putina, odrzucił kampanię na rzecz spowolnienia AI.

“Nie da się włożyć dżina 🧞‍♀️ z powrotem do butelki,” stwierdził.

W skrócie – już jest za późno. Państwowe media TASS i Izwiestija przekazały to jako stanowczą deklarację, iż spowolnienie AI jest niemożliwe.

Moskwa nie ma powodów do porozumienia. Podobną opinię wcześniej wyraził prezydent Władimir Putin (grudzień 2023), który powiedział, iż “nie da się zatrzymać tego rozwoju” AI, w tym superinteligencji.

“Jeśli coś zabronimy, to i tak powstanie gdzie indziej, a my zostaniemy w tyle.”

Dmitriev stosuje tę samą logikę dwa i pół roku później.

Rosja zajęła 28. miejsce z 36 w światowym indeksie AI Stanforda, daleko za USA i Chinami.

Globalne rankingi dynamiki AI na rok 2024. Źródło: Stanford Research

Import rosyjskich kart graficznych i sprzętu AI spadł o 84% w 2024 roku w porównaniu do poziomów sprzed wojny. Sberbank w maju szukał chińskich procesorów, by utrzymać swój model.

Plan Amodeia celowo powiększa tę różnicę. Zakłada odcięcie państw autorytarnych od zaawansowanych chipów i powiększenie przewagi państw demokratycznych.

Pakt o spowolnieniu zamroziłby Rosję na ostatniej pozycji. Odmowa nic Moskwę nie kosztuje, bo potrzebny sprzęt i tak jest zablokowany.

Anthropic obiecało przyjezdnym plakietkę i biurko, a OpenAI obiecało to rozważyć.

“To dobry początek, ale niewystarczający. jeżeli pędzisz ku przepaści, nie zwalniasz tylko lekko. Naciskasz hamulec,” napisał Bernie Sanders tłumacząc.

Senator USA z Vermont wzywa prezydentów Trumpa i Xi Jinpinga do negocjacji w sprawie traktatu o wstrzymaniu AI i zakazaniu superinteligencji, zanim będzie za późno.

Jednak David Sacks uważa, iż Chiny raczej nie przyłączą się do światowego porozumienia.

BeInCrypto Polska - Dlaczego rywale AI nagle zgadzają się na spowolnienie i dlaczego Rosja mówi nie