Mrinank Sharma, szef zespołu Safeguards Research w firmie Anthropic, ogłosił swoją rezygnację, publikując list, w którym ostrzega, iż „świat znajduje się w niebezpieczeństwie”. Ekspert odpowiedzialny za bezpieczeństwo modelu Claude wskazał na rosnący rozdźwięk między deklarowanymi wartościami etycznymi a presją rynkową w sektorze AI. Jego odejście, połączone z decyzją o porzuceniu branży technologicznej na rzecz studiowania poezji, wywołało szeroką dyskusję na temat kondycji psychicznej i moralnej liderów odpowiadających za globalne bezpieczeństwo cyfrowe.
Sharma, który dołączył do Anthropic w 2023 roku, kierował kluczowymi badaniami nad zjawiskiem tzw. sykofancji AI (skłonności modeli do przytakiwania użytkownikowi kosztem prawdy) oraz tworzył mechanizmy obronne przed wykorzystaniem sztucznej inteligencji w bioterroryzmie. W swoim pożegnalnym liście podkreślił, iż ludzkość zbliża się do progu, w którym nasza mądrość musi rosnąć w równym tempie z możliwościami technologicznymi, aby uniknąć katastrofalnych konsekwencji. Według naukowca, dzisiejsze wyzwania to splot wzajemnie powiązanych kryzysów – od broni biologicznej po ryzyka egzystencjalne związane z rozwojem autonomicznych agentów – których skala przerasta obecne struktury nadzoru.
Bezpośrednim powodem dymisji ma być niemożność pełnego kierowania się wartościami wewnątrz organizacji stojącej pod presją wyścigu zbrojeń AI. „Wielokrotnie widziałem, jak trudno jest pozwolić naszym wartościom rządzić naszymi działaniami – zarówno wewnątrz mnie, jak i organizacji, gdzie nieustannie mierzymy się z naciskami, by odłożyć na bok to, co najważniejsze” – napisał Sharma. Choć Anthropic pozycjonuje się jako bezpieczna alternatywa dla konkurencji, odejście szefa zabezpieczeń stawia pod znakiem zapytania skuteczność samoregulacji w branży, która coraz agresywniej walczy o udziały w rynku (m.in. poprzez kosztowne kampanie reklamowe podczas Super Bowl).
Zamiast przejść do konkurencji, Sharma całkowicie odcina się od Doliny Krzemowej. Wraca do Wielkiej Brytanii, by studiować poezję i zajmować się coachingiem oraz budowaniem społeczności. To spektakularne porzucenie technologii na rzecz humanistyki zbiega się w czasie z podobnymi ruchami w OpenAI, gdzie badacze tacy jak Zoë Hitzig również rezygnują, uciekając przed „erozją zasad” i komercjalizacją, która ich zdaniem zaczyna wygrywać z bezpieczeństwem użytkowników. Decyzja Sharmy, by „stać się niewidzialnym”, jest dla branży jasnym sygnałem: choćby w firmach rzekomo „etycznych” technokraci przegrywają dziś starcie z twardym biznesem.
Model reklamowy vs. czysta subskrypcja: Spór gigantów AI na oczach milionów widzów
