Ogromny potencjał, ale zagrożenie dla tkaniny społeczeństwa?

Podczas imprezy Arabii Saudyjskiej w lutym w lutym królestwo ogłosiło ogromną inwestycję w sztuczna inteligencja (AI)podczas gdy element konferencyjny serialu bardzo się specjalizował w kluczowych pytaniach dotyczących sztucznej inteligencji. Odbyły się one od kolejnych kroków, takich jak uzyskanie wartości biznesowej od Enterprise AI, po wyzwania Opracowywanie agencji AIa także bardziej odległa przyszłość w robotyce i przyczynowa AI.

Udostępniono także potrzebę skupienia się na tym, jak AI zmieni społeczeństwo i jak zapewnić, iż jest to siła dla dobra, a nie podważa spójność społeczną.

Agentic AI potrzebuje zdrowego rozsądku

Yaser Al-Oniizan, dyrektor generalny National Center for AI w Saudyjskiej Data i AI Authority (SDAIA), skupiony na Agentic AI jako następny krokjak w sztucznej inteligencji, która działa w naszym imieniu.

„Duże modele językowe [LLMs] Zrozum, w jaki sposób język jest konstruowany, sekwencje generowane przez ludzi – powiedział. „Ale obietnicą AI jest to, iż będzie ona we wszystkim, co robimy i dotykamy każdego dnia. Ale to musi być niewidoczne. To nie może być na twojej twarzy – powinno cię słuchać, rozumieć i robić rzeczy w oparciu o twoją opinię, choćby czasami pytasz.

„Na przykład możesz wchodzić w interakcje z modelem, a zamiast po prostu podawać informacje o lotach, może on kontynuować i zarezerwować loty lub dokonać rezerwacji hotelowej dla Ciebie”.

Ale, powiedział Al-Jiizan, wyzwaniem jest, aby sztuczna inteligencja pracowała w imieniu ludzi i naprawić wszystko, rozumiejąc „zdrowy rozsądek”, aby decyzje autonomicznie pasowały do ​​tego, co jest praktyczne dla tych, w których działa to.

Agentic Ai do przyczynowej AI

Tymczasem Lamia Youseff, założycielka Jazz Computing, jest liderem branżowym w AI i Cloud, z CV, który obejmuje Google, Microsoft, Facebook i Apple oraz akademickie instytucje badawcze, w tym Stanford, MIT i UCSB.

Mówi, iż widzimy sztuczną inteligencję w kilku fazach i punktach fleksji:

• Enterprise AI – dla których Big Data kierowała drogą, gromadząc ogromne ilości danych do analizy. Enterprise AI wprowadza optymalizację i przyniosła „tsunami nowych produktów i usług”.
• Agentic AI – Kolejny krok na następne dwa lata przyniesie agentów, którzy pracują w naszym imieniu, przyjmowanie poleceń, rozmowy z LLM, przebijanie poleceń w kroki i podejmowanie działań.
• Robotyka i humanoidy – które będą wymagały wielkich innowacji w komunikacji i zrozumieniu maszyny ludzkiego języka w celu połączenia LLM i robotyki, na przykład w samochodach bez kierowcy i krytycznej, z możliwością interakcji w świecie 3D.
• Przyczynowa sztuczna inteligencja-gdzie AI może przewidzieć niezwykle złożone wydarzenia w świecie rzeczywistym, takie jak wahania rynku akcji.

Odblokowanie sztucznej inteligencji dla przedsiębiorstwa

Gdzie indziej mówcy skupili się na tym, jak zdobyć wartość biznesową z AI. Obejmowało to Aiden Gomez, CEO kanadyjskiej firmy Cohere, która specjalizuje się w stosowaniu LLM w przedsiębiorstwach.

Koncentruje się na uczynieniu LLM dla przedsiębiorstw, pomagając w tworzeniu stosu aplikacji, który ich korzysta.

„Musisz być techniczny, musisz być programistą, aby móc zbudować coś na tym modelu, aby stworzyć wartość po drugiej stronie” – powiedział.

Wyzwania obejmują możliwość obniżenia barier, dzięki czemu sztuczna integracja może zintegrować się z systemami wewnętrznymi oraz bezpieczeństwo, w których AI wyprowadza się z fazy dowodu koncepcyjnego i dotyka najbardziej poufnych danych klientów.

„Największą rzeczą, jakich potrzebuje światowy świat, są dobre rozwiązania, które mogą podłączyć i iść” – powiedział. „Bariera jest dla przedsiębiorstw bezpiecznego przyjmowania AI, co oznacza całkowicie prywatne wdrożenia. Następnie możemy zacząć zmieniać pracę, którą ludzie wykonują na tych modelach. Aby odnieść sukces, muszą być w stanie korzystać z systemów, których ludzie używają dziś do wykonywania zadania i zintegrowania generatywnych sztucznej inteligencji z wewnętrznym oprogramowaniem i systemami. ”

Gomez dodał: „Kiedy ludzie właśnie testowali technologię, utwór bezpieczeństwa nie był tak ważny, ponieważ nie wkładali danych o krytycznym misji w tych systemach. Teraz wyprowadzamy się z fazy dowodowej koncepcji i wchodzimy do produkcji, a te modele dotykają najbardziej wrażliwych danych klientów, więc bezpieczeństwo jest przedtem. ”

On także wskazywał na Agentic AI jako następny etap i wyzwania, które należy rozwiązać. Pierwszym z nich jest zastosowanie modeli rozumowania, a drugie uczenie się od doświadczenia.

„Pomyśl tylko, jakie jest rozumowanie” – powiedział Gomez. „To, co się teraz dzieje, to możesz zapytać model, co jest 1+1, lub możesz poprosić go o udowodnienie ostatniego twierdzenia Fermata, a model spędziłby tyle samo czasu w odpowiadaniu obu tych pytań, co nie ma sensu.

„Z rozumowania możesz wydać różne ilości energii na różne trudności i problemy. Teraz możemy podejść do rzeczy znacznie wydajniej, ale bardziej skutecznie. To poważne odblokowanie dla Agentic AI. Chcesz, aby agenci mogli przemyśleć problemy i naprawdę rozumować ” – dodał.

„Drugą rzeczą jest uczenie się od doświadczenia. Tak więc, z człowiekiem, kiedy mówisz im: „Zrobiłeś coś złego. Oto jak to naprawić ”, pamiętają o tym i uczą się na zawsze, aby nie popełniać tego samego błędu. Kiedy modele mają taką zdolność do nauki z doświadczenia z użytkownikiem, odblokuje możliwość nauczania własnego modelu, aby z nim interakcja. ”

AI: Nie możemy być pasywni do niebezpieczeństw

Wreszcie Lambert Hogenhout, szef danych, analityki i pojawiające się technologie w ONZ, ostrzegł przed niebezpieczeństwami sztucznej inteligencji dla społeczeństwa ludzkiego, jeżeli jesteśmy pasywni w naszym podejściu do niego. Innymi słowy, AI ma zdolność podważania ludzkiej agencji, a choćby być siłą, która może działać przeciwko nam, jeżeli jest niekontrolowana.

Jego zdaniem najważniejsze ryzyko stwarzane przez AI obejmuje groźby:

• Autonomia – w której sztuczna inteligencja czyni cię bardziej kompetentnym, prawie idealnym, ale oznacza, iż ​​jesteś następnie zmuszony do interakcji z sztuczną inteligencją, aby być osobą, którą cię czyni.
• Tożsamość – w której AI ma choćby możliwość zbudowania repliki czyjejś osobowości, jeżeli ma wystarczającą ilość informacji o tej osobie. Przenosi kradzież tożsamości na nowy poziom.
• Cel – gdzie, jeżeli AI zastąpi wiele miejsc pracy, co pozostało dla ludzi i jak upewniamy się, iż skupiamy się na tym, w czym ludzie są dobrzy, na przykład kooperacja i kreatywność?
• Szczęście i połączenie ze społeczeństwem – bardzo ważne jest, aby ludzie czuli się szczęśliwi i związani ze społeczeństwem. jeżeli zostanie to podważone, pojawią się problemy.

„AI daje nam wiele sposobów na poprawę naszej działalności i życia prywatnego”, powiedział Hogenhout. „Ale w dłuższej perspektywie powiedzmy 20 lat, myślę, iż nikt nie przewidział, jak świat będzie wyglądał za 20 lat.

„Niektórzy ludzie mają bardzo pozytywny pogląd, w którym roboty wykonują pracę i możemy spędzić dni grając w golfa lub oglądając interesujące filmy. Ale pogląd dystopijny mówi, iż stracimy nasz cel w życiu, a dla ludzi stanie się to dość nieszczęśliwe, z wyjątkiem kilku miliarderów AI. ”

Hogenhout wskazał na to, jak telefony zmieniły wszystko i jak AI prawdopodobnie zrobi to samo.

Po pierwsze, mówił o kwestii autonomii.

„Zawsze chciałem być zabawniejszy, kiedy odpowiadam na wiadomości od moich przyjaciół. Chciałem być bardziej wymownym, kiedy piszę e -maile do mojego szefa. I wiesz, mogę z pomocą sztucznej inteligencji. Ale oznacza to, iż polegam na sztucznej inteligencji dla każdej komunikacji, a kiedy wszyscy to robią, gdy wszyscy są doskonali, czy możesz sobie pozwolić na jej nie używać, bycie jedynym człowiekiem nie zajmującym się? Będziemy zmuszeni rozwinąć się z AI. ”

A pod względem tożsamości Hogenhout mówił o tym, jak AI ma potencjał kompleksowego klonowania osobowości człowieka.

„Co jeżeli ktoś weźmie wszystko, co kiedykolwiek napisałem – e -maile, posty, wszystko – i wie, jak odpowiedzieć jak ja? Ale tak naprawdę robią to firmy.

„Istnieje aplikacja o nazwie dalej, która jest przeznaczona dla osób starszych. Na przykład twój dziadek można przeprowadzić wywiad i dodawanie informacji o jego życiu. Potem, gdy Grandpa umrze, na telefonie jest głos dziadka i możesz zapytać go, jak to, co dzieje się z Super Bowl lub mecz piłkarski i odpowiada dokładnie tak, jak by miała dziadek ”.

To wymusza pytanie, powiedział Hogenhout, o tym, co nas rozróżnia, czy tak łatwo jest odtworzyć tożsamość do poziomu głosu, opinii?

Wreszcie Hogenhout spojrzał na cel.

„Znaczenie w naszym życiu wynika z pracy, którą wykonujemy, ale już jest jasne, iż wiele prac zostanie zastąpionych. To prawda, robimy głupie rzeczy, ale mamy niesamowite umiejętności i umiejętności – powiedział.

„To, co czyni nas wyjątkowymi jako gatunek, jest nasza kreatywność. Istnieje również poczucie nie przyjmowania rzeczywistości takim, jakim jest. Ale nie jesteśmy tylko innowatorami. Myślę, iż jesteśmy bardzo dobrzy w współpracy. Jest powód, dla którego wszyscy jesteśmy razem tutaj na tej konferencji, ponieważ chcemy się od siebie uczyć. Te połączenia są bardzo ważne w społeczeństwie.

„Ważne jest, abyśmy podejmowali decyzje i czuć się spełnieniem. Chcemy upewnić się, iż AI zwiększa żywe powiązania, iż ​​nie jesteśmy wyeliminowani, iż jest dobrym społeczeństwem. Społeczeństwo, w którym wykluczone jest wiele osób, nie będzie działać. Stworzy problemy ”, dodał Hogenhout.

Jego wniosek jest taki, iż AI zmieni nas na duże sposoby, ale musimy upewnić się, iż działamy celowo. W przeciwnym razie potencjał zablokowania dużych pokosów ludzkości z rdzenia, którego życie jest powiększane przez AI, doprowadzi do złamanego społeczeństwa, z którego pojawią się problemy.

„W tej chwili myślę, iż jesteśmy zbyt pasywni. Czekamy tylko na kolejny niesamowity system AI. Nie zastanawiamy się nad tym, jak wpłynie to na nasze życie ”.