Stany Zjednoczone i Rosja wspólnie osłabiły regulacje „zabójczej AI”. To może być jedna z najważniejszych technologicznych historii roku.
Gdy rozmawiamy o sztucznej inteligencji to najczęściej skupiamy się na chatbotach, generatorach obrazów i wyścigu między OpenAI, Google’em czy Anthropikiem. Jedni zastanawiają się czy AI odbierze ludziom pracę, inni ekscytują się coraz bardziej zaawansowanymi modelami zdolnymi pisać kod, tworzyć grafikę albo zastępować konsultantów infolinii. Tymczasem równolegle toczy się inna, potencjalnie dużo ważniejsza debata. Dotyczy ona wykorzystania sztucznej inteligencji do prowadzenia wojny.
Podczas wrześniowych negocjacji ONZ dotyczących autonomicznej broni przedstawiciele Stanów Zjednoczonych i Rosji wspólnie doprowadzili do znaczącego osłabienia projektu dokumentu mającego regulować wykorzystanie sztucznej inteligencji na polu walki. Chodzi o odpowiedź na jedno z najważniejszych pytań XXI wieku: czy człowiek przez cały czas będzie podejmował ostateczną decyzję o użyciu śmiercionośnej siły, czy też oddamy tę decyzję algorytmom.
To nie jest już dyskusja o przyszłości
Największym błędem byłoby potraktowanie całej sprawy jako kolejnej akademickiej debaty o technologiach, które pojawią się kiedyś w przyszłości. Jeszcze pięć czy dziesięć lat temu rzeczywiście można było wzruszyć ramionami i stwierdzić, iż autonomiczna broń rodem z futurystycznych gier wideo to problem dla następnego pokolenia.
Tyle iż świat przyspieszył.
Sztuczna inteligencja nie jest już eksperymentem prowadzonym w laboratoriach. Coraz częściej staje się rzeczywistym elementem działań wojskowych. Amerykańska armia miała wykorzystać chatbota firmy Anthropic do identyfikacji niemal tysiąca potencjalnych celów podczas pierwszej doby wojny z Iranem. Izrael od lat rozwija wykorzystanie systemów AI przy analizie danych wywiadowczych oraz planowaniu operacji wojskowych.
Jednocześnie wojna w Ukrainie pokazała światu nową generację konfliktów, w których drony, systemy rozpoznawcze i algorytmy analizujące obraz z pola walki stają się równie ważne jak czołgi, artyleria czy myśliwce. To teraźniejszość.
Scorpio 1000 zaprojektowany do zadań rozpoznawczych oraz do zabijania na bliskim dystansieCo adekwatnie wykreślono?
Z projektu usunięto wymóg, aby wojskowe systemy AI działały w sposób „przewidywalny” i „niezawodny”. Wykreślono również fragment dotyczący uwzględniania aspektów etycznych przy wykorzystaniu sztucznej inteligencji. Szczególnie istotne było jednak usunięcie zapisów wymagających ludzkiej kontroli nad celami wskazanymi przez AI przed przeprowadzeniem ataku.
Na pierwszy rzut oka można wzruszyć ramionami. Ot, urzędnicy pokłócili się o kilka słów. Tyle iż o ile dokument mówi o konieczności ludzkiej kontroli to powstaje punkt odniesienia dla przyszłych regulacji i traktatów. Tymczasem zapis znika, a to otwiera drzwi do znacznie szerszej interpretacji. Nagle można argumentować, iż człowiek nie musi analizować każdej decyzji systemu. Wystarczy, iż uczestniczył w jego uruchomieniu lub zaprogramowaniu. To różnica, która może wydawać się niewielka podczas posiedzenia ONZ. Na polu walki może oznaczać tysiące ludzkich istnień.
Waszyngton i Moskwa mówią jednym głosem. Dyktator Putin imponuje prezydentowi Trumpowi
Stany Zjednoczone i Rosja należą do światowej czołówki pod względem inwestycji w wojskowe zastosowania sztucznej inteligencji. Oba rozwijają autonomiczne systemy bojowe, oba również nie mają szczególnej ochoty na sytuację, w której międzynarodowe organizacje zaczną szczegółowo określać, czego wolno im używać na przyszłym polu walki. Trudno zresztą uznać to za szczególnie zaskakujące. Żadne mocarstwo nie lubi ograniczać własnej przewagi.
Przez ostatnie dwa lata debata o sztucznej inteligencji została zdominowana przez wizję superinteligencji. Dyskutowaliśmy o hipotetycznych scenariuszach, w których AI przewyższa człowieka intelektualnie i wymyka się spod kontroli. Tymczasem coraz więcej specjalistów od bezpieczeństwa uważa, iż znacznie bardziej realnym zagrożeniem są systemy wdrażane tu i teraz.
Nie chodzi o świadomość maszyn, czy bunt robotów, a o coś bardziej przyziemnego – o algorytmy analizujące dane wywiadowcze, obrazy satelitarne, nagrania z dronów i przechwyconą komunikację. Oprogramowanie, które w ciągu kilku sekund może wskazać setki potencjalnych celów, podczas gdy człowiek potrzebowałby na to wielu godzin.
Problem polega na tym, iż choćby najlepsze modele AI przez cały czas popełniają błędy. Potrafią halucynować, błędnie interpretować dane a choćby wskazać obiekt jako cel wojskowy mimo braku pełnego kontekstu.
Jest jeszcze jeden element, który nadaje tej historii wyjątkową wagę
Ludzkość ma bardzo długą tradycję regulowania nowych rodzajów uzbrojenia dopiero wtedy, gdy zobaczy ich skutki w praktyce. Tak było z bronią chemiczną, minami przeciwpiechotnymi czy amunicją kasetową. Najpierw pojawia się nowa technologia, potem następuje okres fascynacji jej możliwościami, następnie dochodzi do nadużyć i tragicznych konsekwencji. Dopiero na końcu społeczność międzynarodowa próbuje ustanowić granice.
Organizacje zajmujące się kontrolą zbrojeń obawiają się, iż dokładnie taki sam scenariusz może powtórzyć się w przypadku autonomicznej broni. Różnica polega na tym, iż tym razem technologia rozwija się szybciej niż kiedykolwiek wcześniej. Algorytmy stają się coraz skuteczniejsze z roku na rok, a koszt ich wdrożenia systematycznie spada. To oznacza, iż przyszłe konflikty mogą być znacznie bardziej zautomatyzowane niż wszystko, co oglądaliśmy do tej pory. Historia odnotuje które narody opowiedziały się za zautomatyzowanym zabijaniem.
*Zdjęcie otwierające wygenerowane dzięki AI
