Sam Altman nie zamierza poprzeć daleko idących ograniczeń rozwoju sztucznej inteligencji. Szef OpenAI uważa, iż świat powinien zaakceptować część negatywnych skutków rozwoju AI.
Dotychczasowy rozwój szeroko pojętej sztucznej inteligencji póki co osiąga zachwycające wyniki w kategoriach takich jak ogromne zużycia gruntów, energii i wody przez centra danych, niekończące kradzieże własności intelektualnej czy włamania do infrastruktur różnych firm. Jednak te i inne problemy nie przekonują Sama Altmana do poparcia daleko idących ograniczeń rozwoju AI. Szef OpenAI w najnowszym wywiadzie przyznał, iż świat powinien zaakceptować część negatywnych konsekwencji związanych z technologią, ponieważ korzyści z jej wykorzystania mają być znacznie większe.
Szef OpenAI przekonuje, iż nie da się rozwijać sztucznej inteligencji bez akceptacji zła
Altman w wywiadzie dla newslettera Decoded prowadzonego przez Politico wskazał na fundamentalną różnicę między podejściem OpenAI i Anthropic do regulacji sztucznej inteligencji. Jego zdaniem obie firmy przez cały czas dzieli „dużo przestrzeni”, mimo iż w ostatnich miesiącach ich stanowiska w niektórych kwestiach zaczęły się zbliżać.
„Uważamy, iż świat powinien zaakceptować pewne złe rzeczy, które będą się działy, dla korzyści płynących z tej technologii i możliwości podejmowania decyzji przez ludzi” – powiedział Altman.
Szef OpenAI odniósł się w ten sposób przede wszystkim do kwestii regulowania najbardziej zaawansowanych modeli AI. Anthropic od dawna prezentuje bardziej ostrożne stanowisko i opowiada się za regulacjami nakładającymi dodatkowe wymagania na firmy rozwijające modele graniczne. OpenAI w ostatnich miesiącach również zaczęło popierać część bardziej restrykcyjnych rozwiązań, jednak Altman przez cały czas deklaruje przywiązanie do lżejszego podejścia regulacyjnego.
Według Altmana nie można przyjąć założenia, iż rozwój AI będzie dopuszczalny wyłącznie wtedy, gdy uda się wyeliminować wszystkie potencjalne negatywne skutki. Wśród wymienianych przez niego zagrożeń znalazły się m.in. poważne włamania, niewłaściwe wykorzystanie technologii oraz oszustwa.
„Nie zaakceptowałbym kompromisu polegającego na stwierdzeniu: dopilnujemy, żeby nie było poważnych włamań, niewłaściwego wykorzystania tej technologii, żadnych oszustw ani wszystkich innych złych rzeczy, które się wydarzą” – stwierdził Altman. Dodał, iż jego zdaniem ludzie zrobią dzięki AI „o rzędy wielkości” więcej dobrego niż złego.
Altman zaznaczył przy tym, iż jego stanowisko ma granice. Nie zaakceptowałby „naprawdę katastrofalnych zagrożeń”, do których zaliczył m.in. potencjalną poważną utratę kontroli nad sztuczną inteligencją przez ludzi.
Stanowisko OpenAI różni się więc od podejścia Anthropic przede wszystkim w ocenie tego, jaki poziom ryzyka społeczeństwo powinno zaakceptować. Altman odrzucił również koncepcję, zgodnie z którą wystarczająco potężna i niebezpieczna technologia powinna pozostać pod kontrolą jednej firmy lub pojedynczego laboratorium, które decydowałoby o sposobie jej udostępniania.
„Uważam, iż byłby to całkowicie nieakceptowalny kompromis” – powiedział, odnosząc się do takiego modelu zarządzania rozwojem AI.
Jednocześnie OpenAI nie pozostaje już przy wcześniejszym, zdecydowanie bardziej liberalnym podejściu do regulacji. Firma poparła nowe przepisy stanowe w USA przewidujące bardziej rygorystyczne wymagania dotyczące bezpieczeństwa AI. Lobbyści przedsiębiorstwa opowiedzieli się również za ponadpartyjną propozycją w Izbie Reprezentantów, która zakłada udział zewnętrznych podmiotów w ocenie bezpieczeństwa najbardziej zaawansowanych systemów.
Altman wcześniej zgodził się także z Dario Amodeiem, szefem Anthropic, iż rozwój najbardziej zaawansowanych modeli AI powinien zostać spowolniony. Pomimo tego podobieństwa obaj przedstawiciele firm przez cały czas różnią się w ocenie zakresu regulacji oraz sposobu udostępniania technologii.
Zdjęcie główne: World Economic Forum / Flickr
