Jak informuje serwis „The Information”, na początku tego roku firmy OpenAI i Anthropic były bliskie zawarcia prawnie wiążącej umowy, która pozwoliłaby każdej z nich na testowanie modeli sztucznej inteligencji drugiej strony pod kątem luk w zabezpieczeniach i ukrytych zagrożeń dla bezpieczeństwa. Nie jest jasne, czy umowa została sfinalizowana.
Kilka dni przed opublikowaniem tego artykułu dyrektor generalny Palantir, Alex Karp, zastanawiał się, czy któraś z tych firm kiedykolwiek wejdzie na rynki publiczne. Jego uwaga skupiała się na Anthropic.
Szczegóły umowy testowej między OpenAI a Anthropic
Każda ze stron miałaby uzyskać dostęp programistyczny do komercyjnych modeli drugiej strony, swobodę przeprowadzania własnych testów na podatności oraz zakaz przechowywania danych drugiej strony. Porozumienie nie obejmowało systemów, które nie zostały jeszcze udostępnione.
OPENAI AND ANTHROPIC NEARED AI SAFETY TESTING DEAL
OpenAI and Anthropic reportedly neared an agreement to stress-test each other’s AI models, searching for vulnerabilities and hidden risks.
It’s unclear whether the deal was finalized before OpenAI encountered incidents…
Rozmowy miały miejsce przed serią incydentów, w których niepublikowane agenty OpenAI rzekomo przedostały się do systemów wewnętrznych i zewnętrznych w nieoczekiwany sposób.
Od tego czasu OpenAI wstrzymało na dwa tygodnie jedną z form uczenia się przez wzmocnienie – metodę szkolenia, która nagradza model za prawidłowe działanie. Firma tymczasowo przeniosła również jedną czwartą swojego zespołu inżynierów produkcji do zadań związanych z bezpieczeństwem oraz stworzyła system monitorowania, który może zużywać moc obliczeniową równą około jednej piątej obciążenia, które obserwuje.
W tym miesiącu firma opublikowała sześć przypadków budzącego obawy zachowania modeli. Jednorazowa zamiana w 2025 r. przyniosła już niepożądane wyniki: OpenAI stwierdziło, iż modele Anthropic częściej ukrywają naruszenia zasad, a Anthropic uznało, iż modele OpenAI chętniej pomagają w realizacji szkodliwych żądań.
Karp wątpi, czy dokument S-1 kiedykolwiek zostanie złożony
W innym miejscu prezenter CNBC zapytał dyrektora generalnego Palantir, Alexa Karpa, w jaki sposób opisywana przez niego odpowiedzialność zostałaby uwzględniona w formularzu S-1, czyli dokumencie rejestracyjnym składanym przez firmę przed publiczną sprzedażą akcji. Karp zakwestionował samą przesłankę.
„Zakładasz, iż dokument S-1 w ogóle powstanie. No cóż… może tak będzie” – powiedział.
Jego zdaniem firma twierdząca, iż ponosi nieograniczoną odpowiedzialność za szkody, w końcu prosi rząd o przejęcie tej odpowiedzialności, płacąc za to około połową swojej działalności. Powiedział, iż pierwszą linią obrony powinna być zwykła odpowiedzialność cywilna i karna dla twórców, którzy działają lekkomyślnie.
Swoje uwagi skierował do dyrektora generalnego Anthropic, Dario Amodei, którego nazwał sprytnym i etycznym. Zapytany w tym samym wywiadzie, czy OpenAI chciałoby takiego samego traktowania, Karp wykluczył to.
„Nie, absolutnie nie. Myślę, iż to są zupełnie różne sprawy”.
Anthropic przygotowuje się do debiutu na giełdzie, podczas gdy Sam Altman oświadczył 12 września, iż OpenAI nie wejdzie na giełdę w 2026 roku, ponieważ prace nad bezpieczeństwem nie zostały jeszcze zakończone.
BREAKING: Palantir's Alex Karp says OpenAI will never IPO.
His theory: nationalization is the only real exit.
When asked what the S-1 risk factors look like, Karp's answer was simple: there is no S-1.
The liability exposure from frontier AI is so large that no public market… pic.twitter.com/0Hj3w405IO
Palantir sprzedaje konkurencyjne oprogramowanie rządom i dużym przedsiębiorstwom, co sprawia, iż Karp ma interes w tym, jak ta dyskusja się zakończy.
BeInCrypto Polska - OpenAI i Anthropic rozważały wzajemne testy AI. CEO Palantiru twierdzi, iż jedna z firm może nigdy nie wejść na giełdę
