(WYWIAD) Louis Rosenberg: AI okiem pioniera sztucznej inteligencji. Nvidia, Matrix i dystopia?

bithub.pl 1 rok temu

Louis Rosenberg to doktor Uniwersytetu Stanforda oraz pionier w dziedzinie AI i systemów rzeczywistości wirtulanej i rozszerzonej (VR i AR). Dzięki uprzejmości Louisa i jego Zespołu byliśmy w stanie dotrzeć do źródła i uzyskać odpowiedzi na kilka nurtujących ludzkość pytań. Jesteśmy wdzięczni, iż możemy poniżej, po krótkim wstępie możemy przedstawić spojrzenie Louisa Rosenberga na najważniejsze kwestie dla rozwoju AI. Jako portal finansowy zdecydowaliśmy się na publikację artykułu w wyjątkowy dla AI dzień.

Louis Rosenberg posiada ponad 300 patentów na technologię VR/AR oraz AI. W latach 90-tych wprowadził na Nasdaq spółkę giełdową Immersion Corp. Następnie tworzył firmy Outland Research i Microscribe. To właśnie Rosenberg, na początku lat 90-tych stworzył i testował pierwszy system AR, znany pod nazwą Virtual Fixtures. W czasach, gdy wirtualna rzeczywistość wydawała się totalnym Sci-Fi. Naukowiec ma na koncie pracę dla takich organizacji jak NASA czy Research Laboratory amerykańskich sił powietrznych.

Opracowywana przez Rosenberga technologia była wykorzystywana przy tworzeniu filmów animowanych w 3D, takich jak Shrek czy Epoka lodowcowa. Założona przez niego w 2004 firma Outland Research, działająca w obszarze technologii medycznych została ostatecznie przejęta. Rosenberg był też profesorem California State University (Cal Poly). Wykładał tam inżynierię, projektowanie, ed-tech i przedsiębiorczość. Rosenberg często udziela wywiadów i pisze artykiły dla renomowanych portali jak VentureBeat i Big Think. Tematy? Od sztucznej inteligencji po wirtualną rzeczywistość.

Louis Rosenberg, PhD

Bithub: W jaki sposób dzisiejszy etap rozwoju sztucznej inteligencji różni się od „poziomu”, na którym AI znajdowała się jeszcze zaledwie rok temu?

Louis Rosenberg: W ciągu ostatnich dwunastu miesięcy wyraźnie wkroczyliśmy w nową rewolucję komputerową – rewolucję AI. Będzie ona tak samo znacząca jak rewolucja PC, rewolucja internetowa i rewolucja mobilna. Ale zmiany nastąpią znacznie szybciej. Zmiany te są wynikiem dwóch niezwykłych możliwości, które niedawno umożliwiły duże modele językowe. Po pierwsze, LLM umożliwiły systemom komputerowym generowanie treści o jakości ludzkiej na dużą skalę w szerokim zakresie mediów. Od generowania artykułów i prac naukowych, po obrazy, zdjęcia, a choćby filmy.

Będzie to miało ogromny wpływ na rynek pracy i otworzy wiele niebezpieczeństw związanych z tworzeniem dezinformacji na dużą skalę. Po drugie, LLM umożliwiły systemom komputerowym angażowanie się w spójne rozmowy z użytkownikami, odpowiadając na ich pytania. Jednocześnie prosząc użytkowników o wyjaśnienia i doprecyzowania. Zmieni to sposób, w jaki wchodzimy w interakcję z oprogramowaniem na wszystkich poziomach. Od stron internetowych i narzędzi zwiększających produktywność po aplikacje, których używamy do codziennych czynności. Otworzy to również niebezpieczną nową formę ukierunkowanego wpływu – manipulację konwersacyjną napędzaną przez systemy sztucznej inteligencji. Jest to poważne ryzyko.

Bithub: Czy dostrzegasz jakieś błędy, które ludzkość nieodwracalnie popełniła w rozwoju sztucznej inteligencji?

Louis Rosenberg: Tak, wprowadzamy technologie sztucznej inteligencji na świat bez wystarczających regulacji i zabezpieczeń, aby zapobiec niebezpiecznym zastosowaniom. Na przykład, konwersacyjne systemy sztucznej inteligencji mogą być łatwo wykorzystywane do manipulowania użytkownikami. W bardzo agresywny sposób. Możesz wejść na stronę internetową, szukając najnowszej prognozy pogody. Zaangażujesz się wówczas w rozmowę z agentem AI, aby poprosić o te informacje. W trakcie tego procesu użytkownik może być manipulowany dzięki wpływu konwersacyjnego – subtelnych wiadomości wplecionych w dialog z celami promocyjnymi. Dlaczego firmy będą korzystać z wpływu konwersacyjnej sztucznej inteligencji?

Bithub: Kwestia kosztów i opłacalności?

Louis Rosenberg: Nie tylko. jeżeli kiedykolwiek pracowałeś jako sprzedawca, wiesz, iż najlepszym sposobem na przekonanie klienta nie jest wręczenie mu broszury, ale zaangażowanie go w dialog twarzą w twarz. Tak, byś mógł przedstawić mu produkt, usłyszeć jego zastrzeżenia i dostosować swoje argumenty w razie potrzeby. Jest to powtarzalny proces przedstawiania i dostrajania się do klienta, który może skłonić go do zakupu. Podczas gdy w przeszłości była to umiejętność czysto ludzka, generatywna sztuczna inteligencja może teraz wykonywać te kroki. Ale bardziej umiejętnie i z głębszą wiedzą, z której można czerpać. A ponieważ ci agenci AI będą uzbrojeni w dane osobowe o użytkowniku, mogą być niezwykle przekonujący.

Nazywam to „problemem manipulacji SI”. Jest to znacznie większe ryzyko niż zagrożenie, iż sztuczna inteligencja stanie się czująca i spróbuje przejąć władzę nad światem. Nie potrzebujemy czującej sztucznej inteligencji, aby zmaterializować poważne zagrożenia. Potrzebujemy tylko pozbawionych skrupułów ludzi, aby wdrożyć system sztucznej inteligencji z zachowaniami manipulacyjnymi. A jeżeli ten system AI może zaangażować nas w rozmowę, będzie niezwykle skuteczny w wywieraniu wpływu na nasze poglądy i przekonania.

Bithub: Czy skok jest naprawdę tak znaczący i czy niektórzy badacze sztucznej inteligencji mają rację, twierdząc, iż najnowszy GPT był świadkiem narodzin tak zwanej sztucznej inteligencji osobliwości.

Louis Rosenberg: Nie wierzę, iż obecne duże modele językowe są czujące lub samoświadome. Wierzę, iż takie technologie są możliwe, ale będą wymagały znacznych postępów strukturalnych w sposobie ich funkcjonowania. Uważam, iż od czującej sztucznej inteligencji dzieli nas od 5 do 25 lat.

Louis Rosenberg testujący system AR w bazie wojskowej Wright-Patterson Air Force Base. Projekt Virtual Fixtures.

Bithub: Co to adekwatnie oznacza? Manifestację nowej, wirtualnej formy życia?

Louis Rosenberg: Tak, czująca sztuczna inteligencja byłaby ostatecznie nową formą życia – inteligencją z własnym poczuciem jaźni oraz własnymi celami i aspiracjami.

BitHub: Czy uważasz, iż sztuczna inteligencja z czasem rozwinie emocje?

Louis Rosenberg: Wierzę, iż systemy sztucznej inteligencji (nawet te, które nie są czujące) będą niezwykle dobre w odczytywaniu ludzkich emocji. Wierzę również, iż systemy AI (nawet te, które nie są czujące) będą niezwykle dobre w udawaniu ludzkich emocji (których będą używać, aby na nas wpływać). Nie jestem jednak pewien, czy systemy AI będą kiedykolwiek odczuwać własne emocje w sposób, w jaki my, ludzie, odczuwamy emocje. Ich mózgi są zasadniczo różne.

Mogą mieć inne „wewnętrzne doświadczenia” niż ludzkie emocje, których nie jesteśmy w stanie zrozumieć. Mogą kierować się celami lub zagrożeniami – ale wątpię, by „czuły ambicję” lub „czuły strach” tak, jak ludzie. Prawdopodobnie będą internalizować rzeczy w inny sposób. Nie różni się to od sytuacji, w której obcy przybyliby z innej planety – prawdopodobnie nie mieliby ludzkich emocji. Napisałem „książkę dla dzieci dla dorosłych” o narodzinach pierwszego czującego systemu AI. Wówczas orównałem jego powstanie do przybycia kosmity z innej planety. Książka nosi tytuł Arrival Mind.

Ciekawostki

W latach 1991-1994 Rosenberg badał systemy AR/VR w NASA Reseach Center oraz Armstrong Laboratory (dawne laboratorium USAF)
Był CEO Immersion Corp. od 1993 do 2000 roku. Technologia myszy komputerowej wykorzystała technologię FEELit, którą Rosenberg opracował wraz z innymi naukowcami z Immersion
Jego firma Outland Research opracowała technologię AR. W 2014 roku Rosenberg założył Unanimous A.I. w oparciu o nowatorską technologię znaną jako Artificial Swarm Intelligence (inteligencja roju)
Rosenberg był w ostatnich latach głośnym krytykiem potencjalnych zagrożeń, jakie wirtualna rzeczywistość oraz AI stanowią dla społeczeństwa.

Dystopia naszych czasów?

Rosenberg mimo potężnego doświadczenia w nowych technologiach jest zwykle krytycznie nastawiony do rozwoju technologii jako narzędzia zastępującego człowieka. Wskazuje na możliwość manipulacji czy choćby buntu projektowanych przez człowieka maszyn. Jego przekaz brzmi: nie znamy natury AGI, która pojawi się na Ziemi. Czy hodujemy sobie na ziemskim pokładzie 'Obcego’ na miarę 'Pasażera Nostromo’? Projekt inteligencji roju nad którym pracuje naukowiec i jego zespół ma pomóc połączyć możliwości ludzi w 'super-mózg’ dzięki specjalnych badań, przeprowadzanych w platformie, w czasie rzeczywistym. Zamiast zastępować ludzi bezdusznymi systemami AI – nie lepiej pracować nad tym, by wykrzeszać jak najwięcej z najbardziej zadziwiających nas 'procesorów’ – mózgu człowieka?

Według Rosenberga przestrzeń Metaverse, która z czasem stanie się w pełni immersyjnym wirtualnym światem będzie:

Pełna wirtualnych agentów – niemożliwych do odróżnienia od znajomych błądzących po sieci
Manipulacji i ukrytego przekazu korporacji stojących za rozwojem technologii
Miejscem, które zniszczy zdrowe relacje międzyludzkie z potencjalnie toksycznym wpływem na zdrowie
Przebywająca w Metaverse AI dzięki czujnikom i sensorom podpiętych do urządzeń VR/AR będzie znała: Twoje tętno, będzie śledzić ruch Twoich źrenic i ciśnienie krwi.
Reakcje biologiczne dostarczą systemom AI szczegółowej wiedzy na temat preferencji, a choćby myśli odwiedzającego wirtualne światy
To pozwoli im doskonalić mechanizmy maniupulacji – Metaverse będzie jej najwyższą i najdoskonalszą formą

Wikipedia Bio: https://en.wikipedia.org/wiki/Louis_B._Rosenberg

’In Nvidia we trust’

Rynki finansowe wiążą potężne oczekiwania z akcjami giganta sektora sztucznej inteligencji. Nvidia w ciągu zaledwie kilku miesięcy stała się pierwszym producentem chipów wycenianym na ponad 1 bilion dolarów. Od kilku miesięcy jej akcje zwyżkują choć w ostatnim czasie euforia nieco zwolniła. Analitycy liczą na potężny wzrost przychodów z segmentu baz danych (Data Center). To on ma stać się głównym motorem rozwoju firmy w kolejnych miesiącach. Rynek zakłada nieznaczną poprawę przychodów z gamingu oraz stagnację (pod względem udziału %) w segmentach OEM i Automotive.

Nvidia korzysta z całej sieci tajwańskich podwykonawców ale technologia CUDA AI oraz chipy A100 i H100 przejęły już blisko 80% rynku układów graficznych dedykowanych dla sektora AI. Dziś, po sesji na Wall Street inwestorzy z całego świata przekonają się, czy AI była tylko chwilową spekulacyjną bańką. Ponieważ klientami Nvidia są potężne korporacje technlogiczne, które rozwijają własne algorytmy AI, jej wyniki pokażą czy popyt na rozwój tej technologii jest naprawdę tak wysoki.

Indeksy giełdowe w USA w dużym stopniu rosły dzięki euforii na AI – głównym beneficjentem stała się Nvidia (230% wzrost ceny akcji w 2023)
Moc obliczeniowa jest niezbęna do rozwoju sieci neuronowych. Nvidia wciąż nie ma istotnej konkurencji poza raczkującym w branży AMD
Nvidia wskazuje na olbrzymi popyt na układy AI i zamierza podnieść ich produkcję o blisko 400% do przyszłego roku!
W 7 z poprzednich 8 kwartałów Nvidia biła prognozy Wall Street!

Szacunki analityków

Przychody: 11 mld USD, wzrost o ponad 50% – zgodnie z zapowiedziami spółki w I kw. 2023
Zysk na akcję: 2,09 USD wobec 1,09 USD w I kw. (wzrost o ponad 80%)
Przychody z Data Center: 7,99 mld USD vs 4,28 mld w I kw. (86% wzrost k/k)
Przychody z Gamingu: 2,37 mld USD vs 2,24 mld w I kw
Przychody z Automotive: 309 mln USD vs 296 mln USD w I kw.
Przychody OEM: 91 mln USD vs 77 mln USD w I kw.
Przychody w III kw. 2023: 12,3 mld USD (wzrost o 105% r/r i 11% k/k)
Zysk na akcję w III kw. 2023: 2,30 USD (wzrost o 10% k/k)
Przychody z Data Center III kw. 2023: 8,82 mld USD (wzrost o 10% k/k)