Jeśli chcesz zebrać bezbożne sumy pieniędzy, lepiej, żebyś miał jakieś boskie powody.
To właśnie twierdzi dyrektor generalny Anthropic, Dario Amodei przygotował dla nas w piątek w ponad 14 000 słów: nieziemskie sposoby, w jakie sztuczna inteligencja ogólna (AGI, chociaż woli nazywać to „potężną sztuczną inteligencją”) zmieni nasze życie. Na blogu pt „Maszyny kochającej łaskę”, wyobraża sobie przyszłość, w której sztuczna inteligencja mogłaby skompresować 100 lat postępu medycznego w dekadę, leczyć choroby psychiczne, takie jak zespół stresu pourazowego i depresja, przesyłać myśli do chmury i łagodzić ubóstwo. Jednocześnie jest zgłoszone iż Anthropic ma nadzieję pozyskać nowe fundusze o wartości 40 miliardów dolarów.
Dzisiejsza sztuczna inteligencja nie może zrobić dokładnie nic z tego, co wyobraża sobie Amodei. Będzie to wymagało, jak sam przyznaje, obliczeń wartych setki miliardów dolarów do szkolenia modeli AGI, zbudowanych z centrów danych wartych biliony dolarów, pobierających wystarczającą ilość energii z lokalnych sieci energetycznych, aby utrzymać światło w milionach domów. Nie wspominając już o tym, iż nikt nie jest w 100% pewien, iż jest to możliwe. Amodei sam mówi: „Oczywiście nikt nie może znać przyszłości z jakąkolwiek pewnością ani precyzją, a skutki potężnej sztucznej inteligencji będą prawdopodobnie jeszcze bardziej nieprzewidywalne niż wcześniejsze zmiany technologiczne, więc wszystko to nieuchronnie będzie się składać z domysłów”.
Kierownicy AI opanowali sztukę składania wielkich obietnic przed masowym zbieraniem funduszy. Weźmy Sama Altmana z OpenAI, którego Blog „Wiek inteligencji”. poprzedziła oszałamiającą rundę o wartości 6,6 miliarda dolarów. Na blogu Altmana stwierdził, iż świat będzie dysponował superinteligencją za „kilka tysięcy dni”, co doprowadzi do „ogromnego dobrobytu”. To przekonujący spektakl: namaluj utopijną przyszłość, podpowiedz rozwiązania najgłębszych obaw ludzkości – śmierci, głodu, ubóstwa – a następnie argumentuj, iż jedynie usuwając Niektóre dzięki zbędnym poręczom i wpojeniu bezprecedensowego kapitału możemy osiągnąć ten techno-raj. To genialny marketing, wykorzystujący nasze największe nadzieje i obawy, a jednocześnie w wygodny sposób omijający potrzebę konkretnych dowodów.
Moment powstania tego bloga podkreśla również, jak zacięta jest konkurencja. Jak wskazuje Amodei, utopijny manifest składający się z 14 000 słów jest zupełnie nie na miejscu dla Anthropic. Firma została założona po tym, jak Amodei i inni opuścili OpenAI ze względów bezpieczeństwa i zyskała reputację firmy charakteryzującej się trzeźwą oceną ryzyka, a nie patrzeniem w oczy futuryzmem. Dlatego firma w dalszym ciągu zatrudnia badaczy bezpieczeństwa z OpenAI. choćby w poście z zeszłego tygodnia nalegał, aby Anthropic nadała priorytet szczerym dyskusjom na temat zagrożeń związanych ze sztuczną inteligencją zamiast uwodzicielskich wizji technoutopii.
„Technolodzy od dawna promują swoje innowacje jako rozwiązania ratujące świat”.
Jednak bezpieczeństwo nie jest ekscytującym tematem i codziennie pojawiają się nowi pretendenci. Współzałożyciel OpenAI, Ilya Sutskever, uruchomił własne laboratorium AI i odchodzi CTO OpenAI Mira Murati podobno tak jest rozpoczynając własne przedsięwzięcie. Blog Amodei nie polega tylko na sprzedawaniu swojej wizji – chodzi o utrzymanie konkurencyjności.
Pomimo deklarowanej niechęci do wielkich roszczeń, wydaje tysiące słów malowanie przyszłości, w której sztuczna inteligencja mogłaby zmienić los ludzkości (wydaje się to pasować do złośliwości Altmana, co są legendarne w kręgach technologicznych). W poście pojawia się tylko jedna wzmianka o dostosowaniu, czyli zapewnieniu działania systemów sztucznej inteligencji zgodnie z wartościami ludzkimi, i nie ma żadnej wzmianki o bezpieczeństwie. Ta sprzeczność obnaża surową prawdę: w świecie rozwoju sztucznej inteligencji, w którym stawka jest wysoka, choćby ci, którzy obawiają się szumu medialnego, są zmuszeni grać w grę wielkich obietnic, aby zapewnić sobie najważniejsze fundusze.
Obecnie istnieje niesamowita przepaść między możliwościami tej technologii a utopią wyobrażaną sobie przez liderów AI. Doprowadziło to do wielu słusznych krytyki – jak zmieni świat w ciągu zaledwie kilku lat, skoro nie jest w stanie choćby wiarygodnie policzyć liczby R w słowie „truskawka”? W czym sztuczna inteligencja niezawodnie się wyróżnia Teraz automatyzuje rutynowe zadania i analizuje ogromne zbiory danych, identyfikując wzorce z coraz większą precyzją. Ta siła już pomaga takim dziedzinom jak finanse, medycyna i pojazdy autonomiczne. Choć postępy te robią wrażenie, twierdzenia takie jak Amodei, iż sztuczna inteligencja może „strukturalnie sprzyjać demokracji”, wydają się przedwczesne i nadmiernie optymistyczne. Warto zauważyć, iż wyznawcy AGI zastanawiają się nad jego wpisem na blogu być trochę zbyt oswojony (co Amodei przewidział na swoim blogu, pisząc w przypisach, iż powinni „dotknąć trawy”).
Pracujesz w Anthropic? Chętnie porozmawiam. Możesz bezpiecznie się ze mną skontaktować pod adresem Signal @kylie.01 lub pocztą elektroniczną pod adresem kylie@theverge.com.
Wpis na blogu Amodei nie jest przeznaczony dla przeciętnego czytelnika zainteresowanego sztuczną inteligencją ani nie jest przekonującym planem działania na przyszłość AGI – znowu rzecz, która nie istnieje i może nigdy nie istnieć w formie, jaką wyobraża sobie branża sztucznej inteligencji. To propozycja dla inwestorów: wróć do Anthropic, a nie tylko finansujesz firmę; kupujesz udziały w promiennej przyszłości ludzkości. To właśnie obiecuje każdy dyrektor AI – Altman w OpenAI, Elon Musk w xAI, Sergey Brin w Google – przy różnym poziomie subtelności. Dołącz do ich wizji przyszłości lub pozostań w tyle.
Mimo całej nowości sztucznej inteligencji tytani technologiczni od dawna promują swoje innowacje jako rozwiązania ratujące świat. Mark Zuckerberg rzucił powszechny internet jako lekarstwo na ubóstwo. Brin raz powiedziane iż Google może „wyleczyć śmierć”. Piżmo określił międzyplanetarne ambicje SpaceX jako ostateczny plan awaryjny dla naszego gatunku (a ostatnio jako konieczność głosowania na Donalda Trumpa). Kiedy jednak w obiegu znajduje się skończona ilość pieniędzy inwestorów, altruizm jest grą o sumie zerowej. jako potentat technologiczny w Mike Judge’s Dolina Krzemowa ujął to w słynny sposób: „Nie chcę żyć w świecie, w którym ktoś inny czyni go lepszym miejscem od nas”.
Amodei doskonale zdaje sobie sprawę z ryzyka, jakie może zabrzmieć hiperbolicznie. „Firmy zajmujące się sztuczną inteligencją mówiące o wszystkich niesamowitych zaletach sztucznej inteligencji mogą wyglądać jak propagandyści lub jakby próbowały odwrócić uwagę od wad” – pisze. Nie powstrzymuje go to od odgrywania swojej roli.
„To rzecz o transcendentnym pięknie” – Amodei kończy swój blog. „Mamy szansę odegrać niewielką rolę w urzeczywistnieniu tego.”
